Нейромережу Galactica навчили писати наукові роботи та тексти для Wikipedia: де тестувати
MetaAI та Papers with Code оголосили про випуск Galactica — аналог GPT-3 від OpenAI, який навчали на понад 48 млн джерел.
MetaAI та Papers with Code оголосили про випуск Galactica — аналог GPT-3 від OpenAI, який навчали на понад 48 млн джерел.
Як повідомляє AIN з посиланням на сайт Galactica, де доступна сама модель, сервіс являє собою набір зі 120 мільярдів параметрів, і може бути запущений на одному графічному процесорі NVIDIA A100.
«Моделі Galactica навчаються на новому високоякісному наборі наукових даних під назвою NatureBook, завдяки чому моделі можуть працювати з науковою термінологією, математичними та хімічними формулами, а також вихідними кодами», — зазначають на сайті сервісу.
Використовувати сервіс, наприклад, можна наступним чином:
«Обчислювальна техніка обіцяла вирішити інформаційне перевантаження в науці, але класичні комп’ютери спеціалізувалися на пошуку та збереженні, а не на розпізнаванні образів. У результаті ми отримали вибух інформації, але не інтелекту, який може її обробити. Дослідники поховані під купою документів, дедалі більше не в змозі відрізнити значуще від несуттєвого. Galactica має на меті вирішити цю проблему, — кажуть дослідники. — Наш перший випуск — це потужна велика мовна модель (LLM), розроблена на основі понад 48 мільйонів статей, підручників, довідкових матеріалів, сполук, білків та інших джерел наукових знань. Ви можете використовувати його, щоб досліджувати літературу, ставити наукові запитання, писати науковий код і багато іншого».
Galactica вже доступна в тестовому режимі.
Втім, існують обмеження, про які попереджають розробники: