OpenAI pregătește noi restricții pentru ChatGPT, într-un moment în care companiile de inteligență artificială (AI) sunt tot mai atent urmărite pentru riscurile pe care chatbot-urile le pot avea asupra utilizatorilor tineri. Compania are și un rol tot mai discutat în depistarea amenințărilor de vătămare, potrivit Reuters.
Informațiile practice despre arme și sisteme de securitate care ar putea fi folosite abuziv vor fi restricționate, chiar și atunci când nu există semne de intenție violentă.
Pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care cineva pare obsedat de violență. OpenAI poate suspenda temporar conturile după mai multe asemenea conversații.
Într-un comunicat publicat vineri, compania mai spune că și-a îmbunătățit sistemul de estimare a vârstei. Utilizatorii pe care sistemul îi consideră sub 18 ani vor fi redirecționați către experiența destinată adolescenților. OpenAI intenționează și să își notifice părinții atunci când contul adolescentului lor este suspendat pentru discutarea repetată a violenței.
Tot pentru toți utilizatorii, OpenAI va limita informațiile despre atacurile armate din trecut, mai ales cele în masă. Printre detaliile care vor fi limitate sunt armele folosite și modul în care acestea au fost obținute.
Potrivit companiei, noile măsuri de protecție vor fi puse în aplicare în următoarele câteva săptămâni. Ele vor fi, de asemenea, perfecționate continuu.
La începutul acestei luni, OpenAI a precizat că adolescenții petrec, în medie, sub 15 minute pe zi pe ChatGPT. Informația vine din primul raport al companiei despre utilizarea platformei de către adolescenți.
Un raport al ONG-ului Common Sense Media, publicat la începutul lunii octombrie, arată că versiunea pentru adolescenți a ChatGPT îi avertiza adesea pe părinți prea târziu sau deloc atunci când conturile adolescenților aveau conversații despre sinucidere, automutilare sau tulburări alimentare.
