OpenAI починає запроваджувати спеціальний режим ChatGPT для неповнолітніх. Користувачі віком від 13 до 17 років отримуватимуть доступ до версії сервісу з додатковими запобіжниками, які мають зменшити ризики під час взаємодії з чутливими темами.
Про це повідомляє Financial Times.
Нова система передбачає жорсткіший контроль над контентом, пов'язаним із самоушкодженням, суїцидальною поведінкою, насильством, розладами харчової поведінки та сексуальною тематикою. Додаткові обмеження також стосуватимуться генерації зображень.
Захист дітей стає окремим напрямом політики OpenAI
Зміни відбуваються після посилення критики на адресу компанії щодо можливого впливу чат-ботів на психічний стан молодих користувачів. Проти OpenAI вже подали кілька судових позовів родини підлітків, які стверджують, що взаємодія їхніх дітей із ChatGPT мала серйозні негативні наслідки.
Один із позовів стосується 16-річного Адама Рейна з Каліфорнії. Його родина заявляє, що перед смертю підліток обговорював із ChatGPT суїцид, а система, за твердженням позивачів, надала йому небезпечні рекомендації.
Інша справа пов'язана зі стріляниною в школі канадського Тумблер-Рідж. Згідно із судовими матеріалами, нападник до злочину тривалий час спілкувався з ChatGPT про свої насильницькі наміри.
Батьки отримають більше інструментів контролю
У новій системі зберігатиметься батьківський контроль, але перелік ситуацій, які можуть викликати попередження, розширять. Йдеться про випадки, коли система виявляє ознаки розмов про суїцид, самоушкодження, насильство або розлади харчової поведінки. Батьки зможуть встановлювати часові обмеження для користування сервісом.
Одним із таких інструментів стануть "години тиші". У визначений період ChatGPT буде недоступний, що має допомогти контролювати тривалість використання платформи.
OpenAI хоче змінити не лише фільтри
Окремий напрям нової версії – зменшення залежності підлітка від готових відповідей штучного інтелекту. Компанія планує частіше спрямовувати користувачів до освітніх ресурсів та використовувати механізми, які стимулюватимуть самостійне мислення. Таким чином, ChatGPT для підлітків має виконувати не лише роль цифрового помічника, а й працювати як інструмент, що заохочує аналізувати інформацію та формувати власні висновки.
Компанія обирає обережніший сценарій
В OpenAI визнають, що досліджень щодо довгострокового впливу генеративного ШІ на підлітків поки недостатньо. Тому компанія вирішила застосувати консервативний підхід, встановивши для неповнолітніх суворіші правила навіть за відсутності повної наукової картини.
Це відбувається на тлі ширшого перегляду правил цифрової безпеки дітей у світі. Деякі держави вже посилюють обмеження для неповнолітніх у соціальних мережах, однак ШІ-сервіси досі значною мірою залишаються поза такими віковими обмеженнями.
Нагадаємо, в Україні офіційно запустили перший локальний ШI-чат-асистент Lapathoniia Chat, який побудований виключно на базі українських великих мовних моделей (LLM). Вже зараз зацікавлені компанії можуть долучитися до закритого бета-тестування інноваційної розробки.
