„Kérlek, halj meg!” – mi is megkérdeztük, miért adott ilyen tanácsot a chatbot egy egyetemistának

A Windows 10 vagy 11-es operációs rendszert futtató számítógépeken bárki számára elérhető a magyarul is beszélő Gemini, korábbi nevén Bard, a Google által fejlesztett generatív mesterséges intelligencia chatbot. Egy nagynyelvi modell (LLM) alapján 2023-ban indult, nyilván a Microsoft nagy sikerű OpenAI ChatGPT-jére adott válaszként készült.

Egy michigani egyetemista azonban a Geminivel az idősödő felnőttek kihívásairól és megoldásairól folytatott csevegés közben váratlanul durva üzenetet kapott a Google mesterséges intelligencia csevegőbotjától. Íme:

Az otromba választ olvasó egyetemista elpanaszolta a CBS Newsnak, hogy sokkolta a javaslat. „Határozottan megijesztett, mondhatnám, több napig.” A 29 éves végzős diák és nővére azt mondta, hogy mindketten „teljesen kiborultak”.

„Akkor az összes számítógépes készülékemet ki akartam dobni az ablakon. Őszintén szólva rég nem éreztem ekkora pánikot” – mondta.

„Valami kicsúszott a gép »száján«. Olvastam emberektől, akik alaposan ismerik a generatív mesterséges intelligencia működését, hogy »az ilyesmi mindig megtörténik«, de még soha nem láttam vagy hallottam ilyen rosszindulatú szöveget. Ez láthatóan a bátyámnak szólt” – tette hozzá a nővére.

Bátyja úgy véli, a technológiai cégeket felelősségre kell vonni az ilyen incidensekért.

A Google válaszában közölte, hogy a Gemininek biztonsági szűrői vannak, amelyek megakadályozzák, hogy a chatbotok tiszteletlen, szexuális, erőszakos vagy veszélyes megbeszéléseket folytassanak, és káros cselekedetekre buzdítsanak. A CBS Newsnak tett nyilatkozatában a Google azt mondta: „A nagy nyelvi modellek néha értelmetlen válaszokat adnak, és ez egy ilyen példa. A fogalmazás sérti az irányelveinket, és lépéseket tettünk, hogy megakadályozzuk a hasonló kimenetek előfordulását.”

Míg a Google „értelmetlennek” nevezte a Gemini közlését, a testvérek ennél komolyabbnak, potenciálisan végzetes következményekkel járó üzenetnek minősítették:

Mi kétszer is megkérdeztük a Geminit, hogy miért mondottt ilyet. A számítógép biztosan nem felejt, de a kapott, alábbi képernyőken olvasható válasz értelmetlenségnek vagy mellébeszélésnek tűnik.

Nem ez az első eset, hogy a Google chatbotja potenciálisan káros választ ad felhasználói lekérdezésekre. Még júliusban vették észre, hogy a Google mesterséges intelligencia téves, alkalmasint halálos információkat közölt különféle egészségügyi kérdésekről. Például azt javasolta az embereknek, hogy egyenek „minden nap egy kis sziklát” vitaminok és ásványi anyagok pótlására.

A Google közölte, hogy a mesterséges intelligencia vicces weboldalakat olvasva tanulta a sziklaevést, s azóta korlátozták a szatirikus és humoros oldalak szerepeltetését az egészségügyi kérdések tanulmányozásában.

Ehhez képest a javítások nem akadályozták meg újabb egészségügyi tévinformációk adásában. Hat hónapnál fiatalabb csecsemők szilárd táplálékára vonatkozóan nyújt tanácsokat – miközben gyermekorvosok szerint csecsemőknek legalább hat hónapos korukig nem szabad szilárd ételt enniük.

A képtelen wellnessjavaslatok, például az úgynevezett méregtelenítésre vagy a nyers tej fogyasztásának egészségügyi előnyeire vonatkozó közlések a mai napig tartalmaznak tudományosan régen cáfolt állításokat.

Persze nem a Gemini az egyetlen chatbot, ami káros válaszokat ad. Egy 14 éves floridai tinédzser februárban öngyilkos lett egy zavaros chatelés után. Édesanyja pert indított egy másik mesterségesintelligencia-cég, a Character.AI, valamint a Google ellen, azt állítva, hogy a chatbot ösztönözte arra a fiát, hogy dobja el az életét.

Az OpenAI ChatGPT-je szintén gyakran bakizik, vagy „hallucinációnak” nevezett, alaptalan konfabulációkat ötöl ki válasz gyanánt. A szakértők számos alkalommal rávilágítottak a mesterséges intelligencia rendszerek lehetséges ártalmaira, a tévinformációk terjesztésétől a hamis propagandán át egészen a történelem átírásáig.