Не так давно исследователи обучили винтажную нейросеть Talkie‑1930 только на англоязычных текстах, опубликованных до 1931 года. Она ничего не знала о современных технологиях. Мир тогда только приближался к появлению таких привычных для нас вещей, как шариковая ручка, вертолёт и электрогитара.
Но одного путешествия в прошлое оказалось мало: исследователи отдельно дообучили модель на современных траекториях решения задач и проверили, сможет ли она работать с Python и реальными задачами разработки.
И, как ни странно, она начала справляться. После целевого дообучения Talkie‑1930 достигла примерно 4,5% pass@1 на SWE-bench Verified. Абсолютная цифра невелика, но сам факт важнее: модель, чьё исходное обучение закончилось до появления компьютеров, смогла освоить структуру современной инженерной задачи.
Этот пример хорошо показывает, что нейросети — не просто база данных, а сложный механизм решения задач. Даже если внутри модели изначально нет информации о конкретной области, она может научиться работать с ней при достаточном количестве примеров, правильной постановке задачи и корректной обратной связи.
На текущем этапе прогресса мы уже научились насыщать модели огромным объёмом знаний. Главная трудность в другом: как научить их правильно применять эти знания в нужный момент.
По аналогии с человеческим мозгом, где разные области отвечают за разные функции и не перегружают всю систему целиком, агентные системы распределяют задачи между отдельными участниками и инструментами, которые решают их наиболее эффективно.
И именно здесь начинается самое интересное: качество таких решений растёт неумолимо, а скорость прогресса всё чаще выглядит не просто впечатляющей, а по-настоящему пугающей.