Компанія Character.AI оголосила про заборону для осіб молодше 18 років на використання своїх чат-ботів, починаючи з 25 листопада. Це рішення прийнято в рамках зусиль щодо забезпечення безпеки дітей у мережі.
Для реалізації цієї ініціативи, компанія планує протягом наступного місяця ідентифікувати користувачів, які є неповнолітніми, та обмежити їхній доступ до застосунку. Після введення нових правил, ці користувачі не зможуть спілкуватися з чат-ботами.
Генеральний директор Character.AI, Карандеп Ананд, підкреслив, що компанія робить «сміливий крок», заявляючи, що чат-боти не є найкращим способом розваги для підлітків, і що існують більш ефективні методи їхньої підтримки. Також планується створення лабораторії безпеки штучного інтелекту.
Ці заходи стали відповіддю на зростаючу критику щодо впливу чат-ботів на психічне здоров’я користувачів. Раніше, минулого року, компанія зіткнулася з судовим позовом від родини 14-річного підлітка, який наклав на себе руки після тривалого спілкування з одним з чат-ботів.
