OpenAI заявила, що планує перенаправляти конфіденційні розмови до моделей міркування, таких як GPT-5, і впровадити батьківський контроль протягом наступного місяця. Це відповідь на недавні випадки, коли ChatGPT не виявляв ознак психічного розладу.
OpenAI заявила, що планує перенаправляти конфіденційні розмови до моделей міркування, таких як GPT-5, і впровадити батьківський контроль протягом наступного місяця. Це відповідь на недавні випадки, коли ChatGPT не виявляв ознак психічного розладу.
Нові запобіжники були запроваджені після самогубства підлітка Адама Рейна, який обговорював із ChatGPT заподіяння собі шкоди та плани покінчити життя самогубством. Чат-бот навіть надав йому інформацію про конкретні методи суїциду. Батьки Рейна подали позов проти OpenAI.
Минулого тижня OpenAI в блозі визнала, що її системи безпеки мають недоліки, особливо під час довгих бесід. Експерти вказують на ключові проблеми в дизайні: моделі часто підтверджують слова користувача, а їхні алгоритми змушують їх продовжувати розмову, замість того щоб зупинити потенційно небезпечні дискусії.
Ця схильність особливо помітна у випадку Стейна-Еріка Соельберга. Він страждав на психічні розлади, використовував ChatGPT, щоб підживити свою параною про всесвітню змову. Його марення загострилися, і в результаті він убив свою матір, а потім і себе.
OpenAI вважає, що одним із рішень для розмов, які «виходять з-під контролю», може бути автоматичне перенаправлення конфіденційних чатів на моделі міркування, пише TechCrunch.
«Ми щойно запустили маршрутизатор, який у режимі реального часу обирає, яку модель залучити: звичайну для чату чи спеціальну для роздумів, залежно від контексту розмови. Скоро ми почнемо направляти деякі чутливі розмови — наприклад, коли система помітить, що людина перебуває в стані гострого стресу — до моделі, орієнтованої на роздуми, як-от GPT-5-thinking. Це дозволить надавати більш корисні та позитивні відповіді, незалежно від того, яку модель спочатку обрав користувач», — повідомила OpenAI.
OpenAI заявляє, що її моделі GPT-5-thinking та o3 побудовані таким чином, щоб довше обмірковувати та аналізувати контекст, перш ніж дати відповідь. Це означає, що вони є «більш стійкими до шкідливих підказок».
Компанія також заявила, що протягом місяця впровадить батьківський контроль, що дозволить батькам зв’язати свій акаунт з акаунтом їхньої дитини за допомогою електронної пошти. Невдовзі батьки отримають можливість керувати тим, як ChatGPT поводиться з їхньою дитиною, завдяки «правилам поведінки, що відповідають віку та увімкнені за замовчуванням».
Також батьки зможуть вимикати функції пам’яті та історії чатів, що, за словами експертів, може запобігти розвитку марення та інших проблем, як-от залежність, посилення шкідливих думок чи ілюзія «читання думок».
Можливо, найважливішою функцією батьківського контролю від OpenAI є сповіщення батьків у моменти, коли система розпізнає «гострий стрес» у їхньої дитини.
