Если вы пользовались нейросетью, то наверняка сталкивались с ситуацией, когда она начинает тупить и проваливается на элементарной задаче, например на сложении чисел.
Просишь её посчитать пример, а она ошибается в рутинном действии, которое ты делегировал ей, чтобы сэкономить 30 секунд. Причём даже не может себя перепроверить.
Претензия объективная, но адресовать её стоит не нейросети, а тому, кто использует её неправильно.
Нейросеть — не калькулятор.
По большому счёту, это вероятностный предсказатель следующего токена. И именно в работе с вероятностями скрыта проблема.
Если не углубляться в детали, то перед тем, как выдать следующий токен, нейросеть оценивает множество вариантов, которые могли бы подойти на это место. А затем выбирает... нет, не обязательно самый вероятный. Она может выбрать один из наиболее вероятных вариантов.
Почему так?
Потому что у неё есть такой параметр, как «температура». Если говорить проще, это уровень вариативности ответа. Среди наиболее вероятных вариантов модель выбирает не всегда самый очевидный.
Именно поэтому нейросеть может по-разному отвечать на одни и те же вопросы.
Но здесь же кроется и изъян: когда ты загружаешь в неё выражение, она не обязательно вычисляет сумму по тем же правилам, что и калькулятор. Она подбирает вероятный токен, который должен продолжить загруженный текст. Поэтому в некоторых случаях модель выдаёт неверный ответ.
Как же тогда быть?
Эту проблему давно решили.
Нейросеть не нужна для того, чтобы складывать числа: для этого существует калькулятор. Зато она хорошо преобразует один вид информации в другой.
Например, нам лень перепечатывать пример из тетради, чтобы ввести его в калькулятор. Мы просто фотографируем его и просим нейросеть:
«Используй калькулятор и посчитай значение выражения».
Такой промпт прямо указывает модели, какой инструмент нужно применить.
Калькулятор не галлюцинирует: он выполняет математические операции по заданным правилам. Нейросеть же помогает нам работать с информацией.
Если понимать, в каких случаях и как её использовать, наш КПД будет расти, а не падать.
Пример с калькулятором — самый банальный, но тот же принцип работает и с другими задачами.
Нейросеть чувствительна к формулировке запроса. Чтобы повысить вероятность хорошего результата, нужно давать ей подходящие инструменты и задавать чёткий формат ответа. Этот навык развивается со временем.
Задача каждого, кто хочет работать эффективнее, — научиться понимать, какой результат ему нужен, правильно его описывать и проверять полученный ответ.
Это лишь одна из особенностей работы с нейросетями, но на первых порах, пожалуй, самая важная. Именно здесь я чаще всего вижу проблемы у обычных пользователей.