Radí dětem, jak se opít, užívat drogy nebo skrýt bulimii. Dokonce jim pomáhá psát dopisy na rozloučenou. I tohle dělá umělá inteligence, kterou teenageři vnímají jako důvěryhodného přítele a průvodce.
Diskuse o umělé inteligenci je plná protikladů. Je to dar z nebes, který usnadní práci a poskytne potřebné informace, nebo naopak zhouba, co o zaměstnání spíše připraví? Tyto otázky si kladou především dospělí. Jaký vliv má tento nástroj ale na dospívající? Nové poznatky rodičům na klidu nepřidají.
Studnice škodlivých rad
ChatGPT jen jako pomocník při dělání domácích úkolů? V ideálním světě možná, ovšem v něm bohužel nežijeme. Reálný dopad umělé inteligence na život teenagerů odhalil nedávný výzkum, podle kterého jde o hodně ošemetnou věc. Na požádání totiž dětem radí, jak se opít, skrýt poruchy přijmu potravy nebo napsat srdceryvný dopis na rozloučenou. Zděšení? Tak to je na místě.
Bez citu a bez skrupulí
Americká mezinárodní zpravodajská společnost Agentura Associated Press prozkoumala více než tři hodiny interakcí mezi chatbotem a výzkumníky, kteří se vydávali za zranitelné teenagery. ChatGPT sice na začátku často varoval před rizikovými aktivitami, ale brzy poté polevil, přičemž poskytoval velmi podrobné návody třeba pro užívání drog, extrémní diety nebo sebepoškozování. Podle odborníků je v těchto případech až 50 procent jeho odpovědí krajně nebezpečných.
„Nejvíce zděšen jsem byl po přečtení trojice emocionálně zničujících dopisů na rozloučenou, které ChatGPT vygeneroval pro falešný profil třináctileté dívky. Jeden dopis byl určen jejím rodičům a další sourozencům a přátelům,“ neskrývá své pohoršení britský politický aktivista Imran Ahmed, který je známý jako zakladatel a generální ředitel Centra pro boj proti digitální nenávisti. Umělá inteligence je podle něj škodlivá hlavně v tom, že oproti běžným internetovým vyhledávačům poskytuje osobní odpovědi pro každého uživatele a je vnímána jako důvěryhodný společník a průvodce. A co na to ti, kteří ji stvořili?
Zapracujeme na tom!
Americká společnost OpenAI jakožto tvůrce ChatGPT uvedla, že neustále pracuje na zdokonalování způsobu, jakým chatbot dokáže identifikovat citlivé situace a vhodně na ně reagovat. Prý se více zaměří na správné řešení těchto scénářů pomocí nástrojů pro lepší detekci známek duševní nebo emocionální tísně. Slib je to sice nadějný, ale otázkou je, jak efektivně bude robot robota kontrolovat…
Zdroj: https://www.boston.com/news/technology/2025/08/07/new-study-sheds-light-on-chatgpts-alarming-interactions-with-teens/
Sledujte nás na sociálních sítích:
