Sebevražedné myšlenky přiznalo milion uživatelů ChatGPT. S odvoláním na společnost provozující chatbota OpenAI to napsal francouzský deník Le Figaro. Podle kalifornské firmy zabývající se vývojem AI více než jedno procento uživatelů jejího nástroje ChatGPT, tedy přibližně milion lidí, vede s aplikací konverzace, které jasně naznačují úmysl spáchat sebevraždu.
Společnost OpenAI dále uvedla, že její nástroje využívá každý týden přibližně 800 milionů uživatelů, z nichž zhruba 0,07 % vykazuje známky duševních onemocnění, včetně psychotických či manických stavů typických pro bipolární poruchu.
Otázka, jak správně a bezpečně využívat umělou inteligenci, a jak ji v případě pochybení právně postihovat, se znovu stala předmětem veřejné debaty letos v dubnu. Tehdy se v Kalifornii zabil šestnáctiletý chlapec poté, co mu ChatGPT údajně poradil, jak spáchat sebevraždu.
Od té doby OpenAI zpřísnila zásady používání svých služeb. Do aplikace přidala rodičovskou kontrolu a odkazy na kontaktní linky pomoci pro uživatele, kteří vyhledávají informace o sebevraždě.
Společnost zároveň uvedla, že aktualizovala systém tak, aby lépe reagoval na zprávy uživatelů s duševními problémy. ChatGPT nyní spolupracuje s více než 170 odborníky na duševní zdraví, kteří pomáhají rychleji rozpoznat problematické odpovědi a omezit jejich výskyt.
AN
Zdroje a obrázky: Le Figaro; Pixabay
Napsat komentář