Meta посилює безпеку для підлітків, щоб довести батькам та контролюючим органам безпечність своїх платформ. Кілька місяців тому компанія дала можливість бачити теми діалогів підлітків з ШІ, а тепер запустила нову функцію захисту. Вона попереджатиме батьків, якщо в чатах дитини з’являться ознаки думок про самоушкодження чи самогубство.
Meta посилює безпеку для підлітків, щоб довести батькам та контролюючим органам безпечність своїх платформ. Кілька місяців тому компанія дала можливість бачити теми діалогів підлітків з ШІ, а тепер запустила нову функцію захисту. Вона попереджатиме батьків, якщо в чатах дитини з’являться ознаки думок про самоушкодження чи самогубство.
Коли неповнолітній користувач заговорює про самогубство чи самоушкодження, штучний інтелект Meta AI вже зараз спрямовує його на гарячі лінії підтримки та закликає звернутися до дорослого, який може допомогти.
Починаючи відсьогодні, компанія також проактивно сповіщатиме батьків або опікунів, які здійснюють нагляд, про те, що підліток перебуває в зоні ризику. Крім того, Meta ділитиметься з ними ресурсами та порадами щодо того, як вони можуть допомогти своїм дітям, повідомляє Engadget.
У Meta зазначають, що створили спеціальну систему ШІ для виявлення таких розмов, проте всі зафіксовані штучним інтелектом чати спочатку перевірятимуться вручну. Це робитимуть перед надсиланням попередження, щоб не сіяти паніку без реальних на те причин. Водночас компанія керуватиметься принципом максимальної перестороги: сповіщення надішлють навіть тоді, коли наміри підлітка здаватимуться модератору неоднозначними.
Зараз ця функція вже доступна для батьків, які використовують батьківський контроль в Instagram у США, Великій Британії, Австралії та Канаді. Для всіх інших користувачів інструментів батьківського контролю у світі вона стане доступною до кінця року.
Компанія також працює над створенням можливості звертатися до екстрених служб, якщо розмова користувача (як неповнолітнього, так і дорослого) з Meta AI свідчитиме про безпосередню загрозу його життю.
Нарешті, налаштування обмеження контенту від Meta відтепер застосовується і до взаємодії з Meta AI. Якщо батьки ввімкнули функцію обмеження контенту в Instagram, яка відфільтровує чутливі теми на кшталт відвертих зображень чи самоушкодження, то взаємодія їхніх дітей зі штучним інтелектом також буде більш обмеженою.
