Трагический инцидент разжег горячие споры о подотчетности ИИ. После того как подросток скончался после длительных взаимодействий с ChatGPT в течение нескольких месяцев, OpenAI выпустила заявление, касающееся ситуации. Компания утверждает, что молодой пользователь злоупотребил их услугами чат-бота и настаивает на том, что не несет юридической ответственности за смерть.

Этот случай поднимает критические вопросы о границах ответственности поставщиков ИИ. С учетом того, что разговорный ИИ становится все более сложным и внедренным в повседневную жизнь, где заканчивается корпоративная ответственность и начинается подотчетность пользователей? Позиция технологического гиганта предполагает, что они рассматривают свою платформу как инструмент, а не как сервис с обязательствами по заботе.

Инцидент подчеркивает продолжающиеся опасения по поводу протоколов безопасности ИИ и потенциального психологического воздействия длительных взаимодействий человека с ИИ, особенно среди уязвимых пользователей.