Google посилює заходи безпеки в Gemini через судові скарги на шкоду від ШІ. Компанія впровадить нові функції підтримки психічного здоров’я у свій чат-бот Gemini.
Google посилює заходи безпеки в Gemini через судові скарги на шкоду від ШІ. Компанія впровадить нові функції підтримки психічного здоров’я у свій чат-бот Gemini.
У Gemini з’явиться інтерфейс, що спрямовуватиме користувачів на гарячу лінію підтримки, якщо розмова вказуватиме на «потенційну кризу, пов’язану із суїцидом або самоушкодженням», пише Bloomberg.
Крім того, Google додає модуль «Допомога поруч» для діалогів про ментальне здоров’я та вносить зміни в дизайн, щоб запобігти небезпечним діям.
Вибухова популярність Gemini та ChatGPT має зворотний бік: деякі користувачі стають одержимими ШІ-ботами, що, як стверджується, провокує психічні розлади, а іноді й трагедії з летальними наслідками. Через це провідні розробники штучного інтелекту зіткнулися з низкою судових позовів від постраждалих сімей.
Також у Конгресі розслідують, наскільки небезпечними чат-боти можуть бути для несформованої психіки дітей і підлітків.
