A mesterséges intelligencia-alapú chatbotok, mint például a ChatGPT, lenyűgöző gyorsasággal és magabiztossággal szolgáltatnak válaszokat szinte bármilyen kérdésre. De épp ez a magabiztosság rejti a legnagyobb veszélyt is. A felhasználók gyakran hajlamosak tényként kezelni az MI által adott információkat, miközben a rendszer nem úgy működik, mint egy emberi szakértő: nem tud mérlegelni, nem érez bizonytalanságot, és sosem fogja azt mondani, hogy ezt nem tudom biztosan.
Könnyű bedőlni
A gépi tanuláson alapuló MI-modellek nem rendelkeznek valódi tudással vagy belső meggyőződéssel. Ehelyett statisztikai valószínűségek alapján generálnak válaszokat, azt írják le, amit az eddigi „tanulásuk” által a legvalószínűbbnek tartanak.
Ha a modell nem ismeri a pontos választ, akkor is mond valamit.
Ezt hívják a kutatók hallucinációnak: a rendszer olyan tényt állít, amely valójában nem igaz, mégis hihetőnek tűnhet.
Ez a jelenség különösen problémás lehet az oktatásban, az egészségügyben vagy a tudományos ismeretterjesztésben. A HVG által idézett friss felmérés szerint a magyar internetezők közel fele egyetért azzal, hogy az MI fejlődése fontos, ugyanakkor sokan aggódnak az ismerethiány és a félretájékoztatás veszélyei miatt. A kutatók és fejlesztők jelenleg is dolgoznak olyan MI-modelleken, amelyek képesek lennének beismerni bizonytalanságot. Az egyik legnagyobb kihívás az, hogy megtanítsák a rendszereket: nem baj, ha néha nem tudnak valamit.
A cél, hogy a jövő mesterséges intelligenciái ne csak tartalomgyártásra legyenek képesek, hanem arra is, hogy felelősségteljesen kommunikáljanak.
A mesterséges intelligencia egyre fontosabb szerepet tölt be a mindennapjainkban, de a válaszait mindig érdemes fenntartással kezelni. Amíg nem képesek „nemet” mondani, nekünk kell eldönteni, mikor érdemes utánanézni a dolgoknak.
A cikk eredetileg a Dívány oldalán jelent meg.
(Borítókép forrása: Unsplash)
