UNIT.City — місце, де люди працюють... КРАЩЕ! Обирай свій простір просто зараз 👉
Наталя ХандусенкоШІ
16 грудня 2024, 12:53
2024-12-16
До школярки посеред ночі завітала поліція. Цей візит спричинила програма на основі ШІ, яка вирішила, що дівчина хоче завдати собі шкоди
У США у телефонах старшокласників встановлюють програмне забезпечення на основі штучного інтелекту, яке відстежує їхні тексти повідомлень. Потім алгоритм аналізує мову. У разі виникнення підозри, що підлітки хочуть завдати собі шкоди, викликають поліцію до їхніх домівок. Але, як виявилося, ця програма може не тільки вберегти життя школярів від загрози, а також призвести до хаотичних і травматичних наслідків.
У США у телефонах старшокласників встановлюють програмне забезпечення на основі штучного інтелекту, яке відстежує їхні тексти повідомлень. Потім алгоритм аналізує мову. У разі виникнення підозри, що підлітки хочуть завдати собі шкоди, викликають поліцію до їхніх домівок. Але, як виявилося, ця програма може не тільки вберегти життя школярів від загрози, а також призвести до хаотичних і травматичних наслідків.
Програмне забезпечення для інтернет-безпеки стало популярним у США для стеження за учнями в їхніх власних домівках під час COVID-19. Багато з цих систем розроблено для позначення ключових слів або фраз, щоб визначити, чи планує підліток завдати собі шкоди.
Однією з таких програм є GoGuardian Beacon. За словами розробника, вона допомагає «захистити учнів від фізичної шкоди».
17-річну школярку штату Міссурі, США, розбудила поліція посеред ночі. Виявляється, вірш, який вона написала багато років тому, викликав тривогу у GoGuardian Beacon, пише Futurism.
У школах говорять, що такі системи інколи дозволяють вчасно втрутитися перед тим, як учні опиняються під неминучою небезпекою. Водночас правові організації критикують технологію, стверджуючи, що в більшості випадків правоохоронні органи не повинні бути залучені.
Наприклад, візит поліції вночі мати дівчини описала це, як «один з найгірших досвідів у її житті».
«Буває багато хибних тривог, — сказав Райан Вест, начальник поліцейського відділу, який відповідає за школу, де навчається 17-річна дівчина, — але якщо ми врятуємо одну дитину, це варте багатьох хибних тривог».
Але наскільки ефективні такі програми, важко сказати, тому що відсутні дані про результати.
UPD. «Будь ласка, помри». Чатбот Gemini почав ображати й погрожувати студенту, який використовував ШІ від Google для виконання «домашки». Ми запитали експертів, що це взагалі було?!
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті.
Хочете повідомити важливу новину? Пишіть у Telegram-бот
Головні події та корисні посилання в нашому Telegram-каналі
