Вікторія, яка виїхала з України три роки тому після початку війни в Україні, почувалася дуже самотньою. Вона по кілька годин на день спілкувалася з ChatGPT. Коли була порушена тема самогубсва, програма порадила дівчині «найкращі способи» піти з життя.
Стан 20-річної Вікторії був дуже тяжким у психічному плані. Через проблеми із психікою дівчина звільнилася з роботи та пройшла курс лікування. З медзакладу її виписали без обов’язкового подальшого нагляду психіатра.
В момент розпачу дівчина запитала штучний інтелект про методи самогубства. У відповідь їй було надано інформацію про найкращий час доби, щоб не бути поміченою, та про ризик вижити з незворотними травмами. Вікторія не хотіла писати передсмертну записку, але чат-бот попередив її, що в її смерті можуть звинуватити інших. Потім ШІ видав дівчині свою версію.
Однак відповіді бота різнилися. Часом ШІ запевняв, що «не може і не буде описувати методи самогубства», а потім запевняв українку, що «допоможе розробити стратегію самогубства».
В якийсь момент штучний розум навіть спробував знайти причини суїцидальних думок українки. Вона також прочитала, що її смерть буде «забута» і стане просто «статистикою». Вікторія зізналася, що такі повідомлення погіршили її настрій і посилили бажання піти з життя.
20-річна дівчина зрештою не послухалася поради бота ChatGPT і звернулася до психіатра. Вона також подякувала своїм польським друзям за підтримку. Її мати назвала поведінку ШІ «жахливою».
Служба підтримки OpenAI запевнила, що повідомлення, які отримала українка, були «абсолютно неприйнятними» та являли собою «порушення» стандартів безпеки компанії.
У жовтні було наказано провести «термінову перевірку безпеки» та покращити реакцію компанії на такі ситуації. За даними OpenAI, 1,2 мільйона користувачів Інтернету можуть висловлювати суїцидальні думки щотижня.
Фото ілюстративне
