Az elmúlt hetekben kisebb felháborodást keltett egy, azóta törölt bejegyzés az X-en, amely szerint a ChatGPT többé nem adhat egészségügyi vagy jogi tanácsot. Az információt Karan Singhal, az OpenAI egészségügyi részlegének vezetője cáfolta, és elmondta, hogy a hír félreértésen alapult.

A félreértés forrása az volt, hogy az OpenAI október végén módosította felhasználási irányelveit, és pontosította azt a részt, amely szerint a szolgáltatás nem használható „olyan, engedélyhez kötött szakmai tanácsadásra, mint például jogi vagy orvosi konzultáció, ha abban nem vesz részt képesített szakember”. Singhal szerint ez a kitétel nem új, csupán világosabban fogalmazták meg.

A frissítés lényege tehát nem az, hogy ChatGPT-t korlátozták volna, hanem az, hogy a felelősség a felhasználót terheli. A mesterséges intelligencia továbbra is képes általános információkat adni egészségügyi vagy jogi témában, de ezek nem tekinthetők hivatalos szakmai véleménynek. Ahogy Singhal fogalmazott, „a ChatGPT sosem volt a szakértői tanácsadás helyettesítője, viszont segíthet abban, hogy jobban megértsük a bonyolult kérdéseket.”

A ChatGPT valóban hasznos eszköz lehet a tájékozódásban, de a pontatlanságok és tévedések továbbra is előfordulhatnak. Ez különösen kockázatos, ha olyan kérdésekről van szó, amelyek az egészségünkre vagy a jogi helyzetünkre hatással lehetnek. A mesterséges intelligencia hajlamos „hallucinálni”, vagyis olyan válaszokat adni, amelyek magabiztosnak tűnnek, de valójában tévesek.

Több ügyvédet is elmarasztaltak már azért, mert ChatGPT által kitalált ítéleteket és paragrafusokat használtak beadványaikban. Az ilyen hibák nemcsak kellemetlenek, de akár súlyos következményekkel is járhatnak.

Az orvosi területen hasonló a helyzet, hiszen az AI képes alapvető információkat összefoglalni, de nem képes pótolni egy valódi orvos tudását és tapasztalatát. A chatbot sokszor azt mondja, amit a felhasználó hallani szeretne, miközben elhagyhat fontos, ám kellemetlen részleteket.

Érdemes ezért minden esetben ellenőrizni, honnan származik az információ. Ha ChatGPT egy forrást is megad, mindig célszerű rákattintani és megnézni, mit ír valójában az adott oldal. Vagy fordítva: ha van egy megbízható cikk vagy tanulmány, meg lehet kérni a chatbotot, hogy magyarázza el egyszerűen a tartalmát. Így biztosabb, hogy a kapott válasz hiteles adatokon alapul.