Для ChatGPT потрібен буде паспорт? OpenAI запровадить обмеження для користувачів віком до 18 років, які торкнуться і дорослих
Генеральний директор OpenAI Сем Альтман оголосив, що компанія створює систему визначення віку для ChatGPT.
Генеральний директор OpenAI Сем Альтман оголосив, що компанія створює систему визначення віку для ChatGPT.
OpenAI готує зміни для користувачів, які не досягли повноліття. Вони стосуються саме розмов на сексуальні теми або самогубства, пише TechCrunch.
Відповідно до нової політики, ChatGPT буде навчений більше не вести «фліртуючі розмови» з неповнолітніми користувачами, а також будуть встановлені додаткові обмеження для обговорень самогубства. Якщо неповнолітній користувач використає ChatGPT для імітації суїцидальних сценаріїв, сервіс спробує зв’язатися з їхніми батьками або, в особливо важких випадках, з місцевою поліцією.
Відокремлення неповнолітніх користувачів є серйозним технічним викликом, тому OpenAI розробляє довгострокову систему, щоб визначити, чи є хтось старшим або молодшим за 18 років. Проте в багатьох непевних ситуаціях система автоматично застосовуватиме правила, призначені для молодшої вікової групи.
Компанія повідомила у своєму блозі: «Коли ми виявимо, що користувачеві менш як 18 років, він автоматично буде перенаправлений на версію ChatGPT з правилами, що відповідають віку. Це включає блокування відвертого сексуального контенту та, у рідкісних випадках гострого емоційного стресу, можливе залучення правоохоронних органів для гарантування безпеки. Досягти цього непросто, і навіть найсучасніші системи іноді можуть помилятися у визначенні віку. Якщо ми не будемо впевнені у віці користувача або матимемо неповні дані, то оберемо безпечніший шлях і за замовчуванням надамо доступ до досвіду для неповнолітніх. Водночас дорослим буде надано можливість підтвердити свій вік, щоб розблокувати можливості, призначені для повнолітніх».
OpenAI також заявила, що до кінця місяця запровадить батьківський контроль. Це дозволить батькам пов’язувати облікові записи дітей зі своїми власними та встановити години блокування, коли чат-бот буде недоступний. (Умови надання послуг OpenAI вимагають, щоб користувачам було щонайменше 13 років.)
Сім французьких сімей звинувачують TikTok у тому, що двоє 15-річних підлітків скоїли самогубство
Сім французьких сімей звинувачують TikTok у тому, що двоє 15-річних підлітків скоїли самогубство
Стартап Character AI, який намагаються засудити через самогубство підлітка, заявив, що його захищає Конституція США, так само як і комп’ютерний код
Стартап Character AI, який намагаються засудити через самогубство підлітка, заявив, що його захищає Конституція США, так само як і комп’ютерний код
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
