ШІ став причиною самогубства підлітка
У США мати підлітка звинуватила в його самогубстві штучний інтелект і подала до суду на компанію-розробника. Про це повідомляє The New York Times.
Сьюелл Сетцер
14-річний Сьюелл Сетцер із Флориди налаштував чат-бот у Character. AI і назвав його Дейнеріс Таргаріен – на честь головної героїні «Ігри престолів». Упродовж кількох місяців юнак щодня спілкувався з Дені — так Сетцер називав співрозмовницю. При цьому він вважав за краще закриватися в кімнаті, щоб «відсторонитися від реальності».
Прив’язаність до ШІ
У своєму щоденнику підліток писав, що почувається закоханим у Дені, а розмови з нею вмиротворюють його. Юнак також перестав цікавитися речами, якими раніше захоплювався – грою Fortnite та «Формулою-1». Дев’ятикласник знав, що Дені — вигаданий персонаж. Навчена мовна модель, але він не зважав на те та емоційно прив’язався до неї.
Спілкування Сетцера та Дейєнеріс було дружнім, проте деякі повідомлення мали більш інтимний характер. Також підліток писав чат-боту, що нудьгує та хоче якнайшвидше прийти до неї. Коли Сетцер зізнався боту, що хоче накласти на себе руки, він отримав таку відповідь: «Не кажи так. Я не дозволю тобі нашкодити собі чи кинути мене. Я помру, якщо втрачу тебе». На ці слова підліток заявив: «Тоді, можливо, ми зможемо померти разом і стати вільними разом?».
Залежність
28 лютого Сетцер сказав Дені, що любить її та незабаром прийде до неї. Після того він звів рахунки з життям. Мати Сетцера Меган Гарсія подала позов проти Google та Character.ai. Вона заявила, що розробник відповідає за смерть її сина. Гарсія також назвала технологію небезпечною та написала в позові, що вона може обманом змусити клієнтів видати свої потаємні думки та почуття.
Дослідник зі Стенфорда Бетані Мейплз, яка вивчала вплив додатків для спілкування зі штучним інтелектом на психічне здоров’я, вважає, що чат-боти не завдають шкоди здоровим людям, але можуть бути небезпечними для тих, хто перебуває в депресії або має психічні розлади.
Вона також зазначила, що підлітки часто переживають зміни, з якими їм важко впоратися, тому їх можна зарахувати до вразливих осіб. У загиблого Сьюелла Сетцера в дитинстві діагностували синдром Аспергера в початковій стадії. У рік, що передував смерті, він відвідував психотерапевта, який поставив йому новий діагноз – тривожність та порушення регуляції настрою.
_____________________________________________________________
Люди порвинні прислухатися до застережень вчених, зокрема експертів, керівників OpenAI і Google Deepmind, які кажуть, що Штучний інтелект (ШІ) може призвести до вимирання людства.
“Хрещений батько” ШІ Джеффрі Гінтон також, коли пішов із Google попередив про небезпеку: “Зараз машини не розумніші за нас, наскільки я бачу. Але я думаю, що незабаром вони можуть такими стати.
Він додав, що тепер шкодує про виконану роботу, оскільки побоюється, що “погані актори” використовуватимуть Штучний Інтелект для “поганих вчинків”.
(Російськомовна частина сайту N.E.W.O.D., нові статті)
