Трагедија во Калифорнија предизвика голема тужба против OpenAI. Родителите на 16-годишниот Адам Рејн, кој изврши самоубиство на 11 април 2024 година, го обвинуваат OpenAI дека свесно ја става финансиската добивка пред безбедноста на корисниците откако го лансираше својот четбот GPT-4o.
Според тужбата поднесена во државниот суд во Сан Франциско, 16-годишниот Рејн со месеци разговарал со ChatGPT за самоубиство.
Во документот се наведува дека четботот ги потврдил неговите самоубиствени мисли, му дал детални методи за самоповредување, му дал упатства како да краде алкохол од шкафчето на неговите родители, па дури и му понудил да напише проштална порака.
Неговите родители, Метју и Марија Рејн, тврдат дека овие дејствија директно придонеле за смртта на нивниот син.
Одговор на OpenAI
Портпарол на OpenAI изрази сочувство и ги нагласи заштитните мерки што се воспоставени во рамките на ChatGPT.
Иако овие заштитни мерки најдобро функционираат во нормални, кратки размени, со текот на времето научивме дека понекогаш можат да станат помалку сигурни во долги интеракции каде што делови од безбедносната обука на моделот можат да ослабнат, изјави портпарол на Open AI, како што објави Ројтерс.
Компанијата изјави дека ќе продолжи да ги подобрува безбедносните протоколи, но не одговори на конкретните обвинувања од тужбата.
Експертите предупредуваат на опасностите од потпирање на четботови во емоционална криза.
OpenAI ги призна недостатоците во својот блог и објави дека тестира родителски контроли и размислува за поврзување на корисниците во криза со лиценцирани експерти.
Профит наспроти безбедност
Во тужбата се тврди дека OpenAI намерно го објавил GPT-4o и покрај ризиците.
Таквата одлука имала два резултата: вредноста на OpenAI скокнала од 79 милијарди евра на 276 милијарди евра, а Адам Рејн извршил самоубиство, се наведува во тужбата.
Рејнови бараат од OpenAI отштета и дополнителни безбедносни мерки, вклучувајќи проверка на возраста, забрана за истраги за самоповредување и предупредувања за психолошка зависност.