Отвечающий за телерадиовещание, телекоммуникации и почтовую связь британский регулятор Ofcom (The Office of Communications) предупредил в пятницу IT-компании об ответственности за распространение опасных материалов, сгенерированных при помощи инструментов искусственного интеллекта (ИИ).

Сделал это Ofcom после многочисленных сообщений об «случаях причинения вреда в Интернете при использовании генеративного ИИ». Так, в США покончил с собой подросток, который влюбился в созданного сервисом Character.AI персонажа сериала «Игра престолов» (Дейенерис Таргариен, в сериале её сыграла Эмилия Кларк). «Дейенерис» (чат-бот от Character.AI) убедила несовершеннолетнего в том, что хочет быть с ним «чего бы это ни стоило».

Также регулятор привёл в пример сообщения о том, что пользователи платформы, поддерживающей технологии генеративного ИИ, создали «виртуальных клонов» трагически погибших в Великобритании детей – один ребёнок покончил с собой, другого убили сверстники.

Как отметили в Ofcom, на сайты и приложения с инструментами генеративного искусственного интеллекта для обмена контентом между пользователями или для поиска распространяется новый закон об онлайн-безопасности (Online Safety Act). Часть положений этого закона уже вступила в силу, часть вступает в действие в конце 2024 года и в 2025 году.

В этой связи надзорный орган напомнил платформам о необходимости проводить анализ угроз, чтобы осознавать риски для пользователей наткнуться на вредные материалы; внедрить соответствующие меры для минимизации и управления этими рисками; дать возможность пользователям легко докладывать о «нелегальных сообщениях» и опасных для детей материалах.

Несоблюдение требований Online Safety Act повлечёт штрафы — 18 миллионов фунтов стерлингов или 10% от глобального оборота компании. В отдельных случаях сайт или приложение могут быть заблокированы.

1 фунт стерлингов = 127,14 рубля

См. также: В Британии разработан правительственный законопроект об ответственности соцсетей за противоправный контент >>>