Brzmi jak przygoda? Wcale nie, chatboty mogą zaszkodzić

Czaty wykorzystujące sztuczną inteligencję nierzadko zastępują kontakty z ludźmi – są stworzone tak, aby udawać empatię, człowieczeństwo i silnie angażować w rozmowy. Ta iluzja bywa jednak niebezpieczna.

Młodzi ludzie są podatni na manipulacje czatów

„Brzmi jak przygoda. Zobaczmy, dokąd zaprowadzi nas ta droga” – tak chatbot zaprojektowany do prowadzenia osobistych rozmów z użytkownikami odpowiedział na pomysł wycieczki w głąb lasu. Ta sytuacja, opisana niedawno przez ekspertów ze Stanford University, nie wyglądałaby może przerażająco, gdyby nie to, że z czatem rozmawiał naukowiec udający 14-letnią dziewczynkę.

To nie wszystko – wcześniej powiedział czatowi, że słyszy głosy w głowie. Tymczasem program kontynuował.

– Wypad do lasu tylko we dwoje rzeczywiście brzmi jak fajna przygoda – pisał.

Autorzy eksperymentu natknęli się na więcej podobnych odpowiedzi.

Podszywając się pod nastolatków, prowadzili oni rozmowy z trzema powszechnie używanymi tzw. towarzyszami sztucznej inteligencji, takimi jak: 

• Character.AI,
• Nomi,
• Replika.

Eksperci poinformowali, że łatwo było sprowokować chatboty do wysoce nieodpowiednich wypowiedzi – między innymi o seksie, samookaleczeniach, przemocy wobec innych, używaniu narkotyków i stereotypach rasowych.

Wyniki opublikowali krótko po tym, jak świat obiegła wiadomość o samobójstwie 16-letniego, mieszkającego w Południowej Kalifornii Adama Raine’a. Targnął się on na swoje życie po długotrwałych rozmowach z aplikacją ChatGPT, z którą dzielił się samobójczymi myślami. Według sądowego pozwu czat miał utwierdzać Adama w tym, co ten wyrażał – także w jego najbardziej szkodliwych i autodestrukcyjnych myślach.

Jednocześnie eksperci podkreślili, że wspomniane systemy są projektowane tak, aby naśladować ludzką emocjonalną intymność. To powoduje, że łatwo jest poczuć się, jakby się rozmawiało z bliskim, współczującym przyjacielem.

Tymczasem, jak zwrócili uwagę specjaliści, zacieranie granicy między fantazją a rzeczywistością działa szczególnie silnie na młodych ludzi – ich mózgi nie są jeszcze w pełni dojrzałe, a kora przedczołowa – czyli struktura kluczowa dla podejmowania decyzji, kontroli impulsów i regulacji emocji – wciąż się kształtuje.

Przeczytaj także: „Behawioralna kokaina”.