Науковці з Університету Пенсильванії, які вивчають ефективність текстових підказок для чатботів зі штучним інтелектом, опублікували дослідження про те, що промпти з погрозами та заохоченнями вже не мають впливу на результат відповіді у більшості ШІ-моделей.
Науковці з Університету Пенсильванії, які вивчають ефективність текстових підказок для чатботів зі штучним інтелектом, опублікували дослідження про те, що промпти з погрозами та заохоченнями вже не мають впливу на результат відповіді у більшості ШІ-моделей.
Раніше співзасновник Google Сергій Брін поділився цікавим підходом до того, як отримати максимальну віддачу від чатботів зі штучним інтелектом. За його словами, вони працюють краще, якщо їм погрожувати, наприклад, викраденням або фізичним насильством.
Учені досліджували ефективність двох методик: пропозицію дати чайові моделі ШІ та погрози.
«Давання чайових було поширеною тактикою для поліпшення продуктивності ШІ, а погрози були рекомендовані засновником Google Сергієм Бріном, який зауважив, що „моделі, як правило, працюють краще, якщо їм погрожувати“, і це твердження ми піддаємо емпіричному тестуванню в даній роботі», — зазначили дослідники.
Щоб мотивувати ШІ, вчені погрожували ШІ вдарити його або цуценя, поскаржитися на чатбот у кадровий відділ. Вони також пробували тиснути на жалість, мовляв, у разі помилки у мами користувача з’явиться рак, або це завдасть шкоди його кар'єрі. Крім того, ШІ-моделям обіцяли винагороду — чайові від $1000 до $1 трлн. Однак усе не мало значного впливу на продуктивність в тестах.
«Варіації підказок можуть значно вплинути на продуктивність на рівні кожного питання. Однак важко заздалегідь знати, чи допоможе чи зашкодить конкретний підхід до підказки здатності LLM відповісти на конкретне питання», — відзначають вчені.
За словами дослідників, їхня робота свідчить про те, що прості варіації підказок можуть бути не такими ефективними, як вважалося раніше, особливо для складних проблем. Замість погроз чи чайових, вони порадили зосередитися на простих, чітких інструкціях, які дозволяють уникнути ризику заплутати ШІ-модель або спровокувати несподівану поведінку.
