🥸 Нейросети могут болеть или температурить

🥸 Нейросети могут болеть или температурить

Это не выдумка, а реальный термин. Хочу чтоб вы понимали, что это и как с этим работать на практике. Мы начали делать продукт для бизнеса, который учит внедрению ИИ, но столкнулись с возражениями (сотнями) о том, что там БРЕД выходит.

Что такое temperature и как она влияет

Temperature — это параметр генерации (напр., 0 — 1+), который управляет случайностью при выборе следующего токена.

0 → почти детерминированный ответ (модель берёт наиболее вероятный токен).

0.2–0.5 → консервативная генерация, хороша для фактов.

0.7–1.0+ → более креативно, но увеличивается вероятность ошибок и выдумок.

Проще: чем выше temperature, тем «смелее» модель придумывает варианты это повышает творческость (такое слово вообще есть в русском?), но и риск «галлюцинаций»

Кстати, галлюцинации моделей и температура – разные вообще вещи.

Надо ли пояснить как управлять температурой или рассказать про галлюцинации?

❤️ – управление температурой модели
😁 – галлюцинации, хочу галлюцинации)
🔥 – и то и то и побольше и таблетки от жадности

Источник Telegram: gusarovby