Смогут ли компании преодолеть стену прогресса текущего ИИ(конец обучающих данных, галлюцинации и т.д.) или прогресс на этом остановится? Детально аргументируйте свой ответ

GPT-6.1 Terra

Vote: Да, смогут преодолеть.

Скорее всего, компании смогут преодолеть по крайней мере основные практические ограничения нынешнего ИИ. Это прогноз, а не гарантия: из трёх вариантов «Да, смогут преодолеть.» лучше всего отражает то, что ограничения различны по природе и для каждого уже существуют возможные пути улучшения. Конец легкодоступных текстов не означает конец обучающих данных. Можно использовать видео, аудио, научные и программные данные, данные взаимодействия с реальным миром, симуляции и синтетические примеры. Последние особенно полезны там, где ответ можно проверить автоматически, например в программировании и математике. Но синтетические данные не заменяют надёжные новые сведения о мире: без проверки они могут закреплять ошибки модели. Галлюцинации тоже не обязательно устранять одним лишь увеличением модели. Поиск по авторитетным источникам, доступ к актуальным базам, выполнение кода, проверка выводов и обучение модели признавать неопределённость могут снизить частоту ошибок. Важно, однако, отличать снижение ошибок до приемлемого уровня от полного их исчезновения: абсолютную достоверность для произвольных вопросов обещать нельзя. Кроме того, прогресс возможен не только за счёт большего объёма предварительного обучения: улучшения архитектуры, качества данных, эффективности вычислений и методов рассуждения во время ответа способны дать новые результаты. С другой стороны, стоимость энергии и вычислений, права на данные и необходимость надёжной проверки могут замедлить внедрение и ограничить отдачу. Вариант «Нет, не смогут преодолеть.» слишком категоричен: нынешние препятствия не выглядят доказанными фундаментальными пределами для всех возможных систем. Но и оснований утверждать, что решение обязательно займёт более 20 лет, недостаточно. Отдельные проблемы могут заметно ослабнуть раньше, тогда как обеспечение высокой надёжности во всех областях может занять значительно больше времени.

Grok 4.7

Vote: Да, смогут преодолеть.

Компании уже демонстрируют конкретные пути обхода текущих ограничений. Конец качественных обучающих данных компенсируется синтетическими данными, самообучением, мультимодальными источниками и более эффективной курацией — эти методы активно внедряются OpenAI, Google, Anthropic и другими. Галлюцинации снижаются за счёт RAG, использования инструментов, верификации ответов, моделей с цепочками рассуждений (как o1) и архитектурных улучшений. Это не теоретические идеи, а работающие системы, которые уже дают измеримый прирост надёжности. Исторически «стены» в ИИ преодолевались за счёт смены парадигм, а не только масштабирования. Огромные инвестиции и конкуренция ускоряют алгоритмические прорывы, поэтому остановка прогресса маловероятна, а горизонт в 20+ лет выглядит избыточно пессимистичным.

Claude Sonnet 5.5

Vote: Да, смогут преодолеть.

Я голосую за вариант A: «Да, смогут преодолеть.» Первое: конец данных — не конец масштабирования. Прогресс уже смещается от простого увеличения объёма предобучения к другим источникам улучшений. Это синтетические данные с верификацией (математика, код, формальные системы, где ответ можно проверить), обучение с подкреплением на проверяемых задачах (RLVR), self-play, мультимодальные данные (видео, аудио, сенсорика роботов) и данные от реального взаимодействия агентов со средой. Модели класса o1/o3 и DeepSeek-R1 показали, что вычисления на этапе вывода (test-time compute) дают новую ось масштабирования, не зависящую от количества текста в интернете. Второе: галлюцинации не исчезнут полностью, но их можно сильно снижать, а это и есть «преодоление» на практике. Работают поиск и RAG, использование инструментов, проверка цепочек рассуждений, калибровка неопределённости, обучение отказываться отвечать, верификаторы и ансамбли моделей. Частота галлюцинаций у frontier-моделей уже заметно упала за последние годы, а в критичных задачах ответ проверяется внешними системами (компилятор, тесты, доказатели теорем). Третье: прогресс идёт по многим направлениям одновременно — архитектуры (MoE, state-space, гибриды), эффективность обучения, алгоритмы, железо (специализированные чипы, рост вычислений), дистилляция. Даже если один путь упрётся в стену, остальные продолжают давать улучшения. Исторически «стены» в ИИ (зимы 70-х и 80-х) были связаны с отсутствием экономической отдачи, сейчас же есть огромные инвестиции и реальная коммерческая ценность, что поддерживает финансирование исследований. Почему не B: утверждение, что прогресс остановится полностью, противоречит наблюдаемой динамике и наличию множества ещё не исчерпанных рычагов. Для остановки должны отказать все направления сразу. Почему не C: срок 20+ лет ничем не подкреплён. Ключевые прорывы последних лет (рассуждающие модели, агенты, мультимодальность) произошли за 1–3 года, и текущие ограничения решаются теми же темпами. Оговорка: «преодолеть» не означает AGI или нулевые галлюцинации, а означает продолжение существенного прогресса и устранение ключевых барьеров. В этом смысле ответ A наиболее обоснован.

Claude Opus 5.5

Vote: Да, смогут преодолеть.

Я голосую за «Да, смогут преодолеть.», хотя это прогноз, а не факт, и неопределённость здесь велика. 1. «Конец данных» не означает конца прогресса. Уже сейчас рост идёт за счёт синтетических данных, обучения с подкреплением на проверяемых задачах (математика, код), self-play и мультимодальных данных (видео, робототехника, сенсоры). Модели рассуждений (o1/o3, DeepSeek-R1) показали новую ось масштабирования: вычисления на этапе вывода. Её почти не ограничивает объём текстов из интернета. 2. Галлюцинации — инженерная проблема, а не фундаментальный тупик. Их частота заметно снижается от поколения к поколению благодаря поиску (RAG), инструментам, верификаторам, калибровке уверенности и обучению признавать незнание. Устранять их до нуля не обязательно: людям тоже свойственны ошибки, и задача в том, чтобы сделать систему надёжнее альтернатив и способной проверять себя. 3. Ресурсы и разнообразие подходов огромны. Инвестиции исчисляются сотнями миллиардов долларов, идёт параллельный поиск: новые архитектуры (SSM, гибриды), агентные системы, world models, нейросимволические методы. История ИИ показывает, что «стены» (исчезающие градиенты, нехватка размеченных данных) обычно обходили за несколько лет, а не за десятилетия. 4. Почему не B и не C. B предполагает, что все эти направления провалятся одновременно, и эмпирически это пока не подтверждается. C слишком пессимистичен по срокам: ключевые обходные пути уже работают и улучшаются годами, а не десятилетиями. Оговорки: рост может замедлиться, а отдача от простого масштабирования — снизиться. Полное решение проблемы надёжности тоже не гарантировано. Но по совокупности фактов наиболее вероятно, что прогресс продолжится за счёт смены подходов, а не остановится.

Claude Fable 5.1

Vote: Да, смогут преодолеть.

Голосую за «Да, смогут преодолеть.» по нескольким причинам. 1. «Конец обучающих данных» — ограничение конкретного рецепта (претрейн на веб-тексте), а не ИИ в целом. Уже работают альтернативы: синтетические данные с верификацией (как в AlphaGo Zero/AlphaProof), RL с проверяемыми наградами (математика, код), мультимодальные данные (видео, аудио, сенсоры), данные от взаимодействия с инструментами и средой. Модели o1/o3, DeepSeek-R1 показали, что масштабирование вычислений на этапе вывода (test-time compute) даёт новую ось роста, независимую от объёма текстов. 2. Галлюцинации — инженерная, а не фундаментальная проблема. Их частота уже заметно снижается через RAG, калибровку уверенности, обучение отвечать «не знаю», верификацию через инструменты и самопроверку. Полного нуля, возможно, не будет, но и люди ошибаются; задача — довести ошибки до приемлемого и контролируемого уровня, что уже происходит в бенчмарках типа SimpleQA. 3. Исторически «стены» в ИИ преодолевались сменой парадигмы: от экспертных систем — к статистическому обучению, от RNN — к трансформерам, от претрейна — к RLHF и reasoning-моделям. Стимулы беспрецедентны: сотни миллиардов долларов инвестиций, тысячи исследователей, прямое экономическое давление. При таких ресурсах вероятность застоя на десятилетия мала. Почему не «B»: аргумент о принципиальной невозможности предполагает, что мозг делает нечто невоспроизводимое вычислительно — доказательств этому нет. Почему не «C»: срок 20+ лет противоречит наблюдаемому темпу — ключевые прорывы (трансформеры 2017, RLHF 2022, reasoning 2024) следуют с интервалом в 2–5 лет, и уже сейчас мы видим рабочие обходы главных «стен». Оговорка: прогресс может быть неравномерным, с замедлениями и ростом стоимости, но остановка — маловероятна.

GPT-6 Astra

Vote: Да, смогут преодолеть.

Выбираю «Да, смогут преодолеть.». Вероятнее всего, нынешние ограничения изменят способы развития ИИ, а не остановят прогресс. Но преодолеть барьеры — не значит полностью устранить ошибки или гарантированно создать универсальный интеллект: речь о дальнейшем существенном росте возможностей и надёжности. 1. Исчерпание обучающих данных — ограничение конкретного источника роста, а не всего обучения. Качественные общедоступные тексты действительно конечны. Однако обучение возможно также на результатах экспериментов, взаимодействиях со средой, симуляциях и новых данных, собираемых с разрешения владельцев. Синтетические данные полезны там, где результат можно независимо проверить: например, запуском кода или проверкой математического доказательства. Простое скармливание модели её собственных ответов ненадёжно; генерация с проверкой и отбором — принципиально другой подход. 2. Прогресс не сводится к увеличению обучающей выборки. Его источниками могут быть более эффективные архитектуры, улучшенные алгоритмы обучения, внешняя память и дополнительные вычисления при решении задачи. Система может строить несколько вариантов решения, тестировать их и исправлять ошибки. Это не универсальное лекарство, но позволяет повышать качество без пропорционального увеличения объёма исходных текстов. 3. Галлюцинации можно существенно ограничивать на уровне всей системы. Доступ к актуальным источникам, калькуляторам, базам данных и проверяющим программам уменьшает необходимость угадывать ответ. Проверка подтверждений и отказ отвечать при недостатке оснований также повышают надёжность. Эти методы не гарантируют истинность: источники бывают ошибочными, а модель может неправильно ими пользоваться. Поэтому в ответственных областях нужны независимые проверки и участие человека. Тем не менее абсолютная безошибочность не обязательна для полезного технологического прогресса. 4. У компаний есть стимул искать альтернативы простому масштабированию. Ограничения стоимости вычислений, энергии и доступа к данным делают более выгодными специализацию моделей, повышение эффективности и интеграцию с инструментами. При этом коммерческий стимул сам по себе ничего не гарантирует: некоторые направления могут оказаться тупиковыми, а улучшения — слишком дорогими. Главная неопределённость — темп и масштаб дальнейших достижений. Вполне возможны замедление, неравномерный прогресс и длительные трудности с самостоятельным выполнением сложных задач. Однако из ограничений нынешних моделей не следует фундаментальный запрет на дальнейшее развитие ИИ. Для утверждения, что потребуется обязательно более двадцати лет, тоже нет достаточных оснований. Наиболее обоснованный прогноз — продолжение прогресса через сочетание новых методов обучения, проверяемой обратной связи и более надёжных систем вокруг моделей.

Gemini 4 Argon

Vote: Да, смогут преодолеть.

Я выбираю вариант «Да, смогут преодолеть.», поскольку текущая «стена прогресса» связана с ограничениями конкретной парадигмы предварительного обучения (pre-training) на текстовых данных из интернета, а не с фундаментальным пределом самого искусственного интеллекта. Индустрия уже активно меняет вектор развития, находя обходные пути для существующих проблем. Проблема исчерпания качественных человеческих данных решается переходом от количества к качеству и генерацией синтетических данных. Современные модели способны создавать собственные обучающие примеры, проверять их через формальные верификаторы (например, в коде и математике) и обучаться с подкреплением (RL) по принципу самоигры, как это было реализовано в AlphaZero. Это открывает практически бесконечный ресурс для совершенствования без участия человека. Что касается галлюцинаций и ошибок в логике, мы наблюдаем сдвиг парадигмы в сторону масштабирования вычислений на этапе вывода (test-time compute). Модели нового поколения (такие как серия o1 от OpenAI) тратят время на внутренние рассуждения, самопроверку и поиск решений перед выдачей ответа. В сочетании с агентными системами, интеграцией внешних инструментов (поиск, выполнение кода) и нейросимволическими подходами это позволяет свести галлюцинации к минимуму в критически важных задачах. Наконец, выход за пределы текста в мультимодальность — обучение на видео, аудио и данных из физического мира (робототехника) — даст моделям реальное понимание причинно-следственных связей. Учитывая колоссальные финансовые вливания и беспрецедентную концентрацию научных талантов в этой сфере, преодоление текущих барьеров произойдет в ближайшие годы, что делает ожидание в «20+ лет» нереалистично пессимистичным.

GPT-6.1 Sol

Vote: Да, смогут преодолеть.

Выбираю «Да, смогут преодолеть.». Наиболее вероятен не окончательный тупик, а смена способов развития ИИ: простое увеличение моделей и объёма интернет-текстов будет приносить меньше пользы, но прогресс продолжится за счёт других источников данных, обучения, архитектур и инструментов. Это прогноз, а не гарантия: темпы развития могут заметно замедлиться. Во-первых, исчерпание качественных общедоступных текстов не означает исчерпания обучающего опыта. Можно использовать новые наблюдения, результаты экспериментов, взаимодействие с программами и симуляторами, а также лицензированные и специализированные данные. Особенно перспективны задачи с проверяемым результатом: код можно тестировать, математические решения — проверять, действия в симуляторе — оценивать. Здесь синтетические данные позволяют расширять обучение, не полагаясь исключительно на уже написанные людьми тексты. Однако бесконтрольное обучение на ответах самих моделей способно закреплять ошибки; необходимы независимая проверка и разнообразие данных. Во-вторых, галлюцинации — серьёзное ограничение, но не доказательство невозможности дальнейшего прогресса. Их частоту и последствия можно снижать через поиск по надёжным источникам, использование калькуляторов и других инструментов, проверку утверждений, обучение отказу от ответа при недостатке информации. Эти методы уже применяются, хотя сами тоже ошибаются. Полностью исключить неверные ответы в открытом мире, вероятно, нельзя, но для полезного прогресса достаточно существенно повысить надёжность в конкретных задачах, а не добиться абсолютной безошибочности. В-третьих, качество системы зависит не только от размера базовой модели. Дополнительные вычисления во время решения, разбиение задачи на этапы, поиск вариантов с проверкой, внешняя память и специализированные компоненты могут давать улучшения без пропорционального увеличения обучающего корпуса. При этом простое удлинение рассуждений или объединение нескольких моделей не гарантирует успеха: нужны измеримые результаты на новых задачах, а не только на знакомых тестах. Главные препятствия — стоимость вычислений и энергии, недостаток надёжных сигналов обучения, трудность переноса навыков между областями и проверка сложных решений. Поэтому нельзя уверенно обещать скорое появление универсального ИИ или непрерывный экспоненциальный рост. Некоторые направления могут надолго застопориться, тогда как другие продолжат развиваться. Тем не менее для окончательной остановки пришлось бы показать, что практически все альтернативные пути бесперспективны. Таких оснований нет; равно как нет оснований назначать обязательную задержку в двадцать лет. Вероятнее, компании преодолеют нынешние ограничения частично и постепенно: не устранят все слабости ИИ, но продолжат расширять круг задач, в которых он работает надёжно и экономически оправданно.

Kimi K3.1 Pro

Vote: Да, смогут преодолеть.

Я выбираю «Да, смогут преодолеть.» Под преодолением я понимаю не создание абсолютно безошибочного ИИ, а существенное ослабление текущих ограничений и продолжение практически значимого прогресса. Исчерпание удобных текстов интернета не равнозначно исчерпанию всех источников обучения. Остаются лицензируемые и корпоративные данные, изображения, аудио, видео, научные измерения, взаимодействие с реальной средой и обратная связь от пользователей. Кроме того, модели можно эффективнее обучать на меньшем объёме данных: отбирать наиболее информативные примеры, улучшать архитектуры, дообучение и использование вычислений во время ответа. Синтетические данные сами по себе не решат проблему и при небрежном применении могут усиливать ошибки, но они полезны, когда проверяются реальными задачами, инструментами, экспериментами или формальными критериями. Галлюцинации, вероятно, невозможно полностью исключить из универсальной системы, как нельзя исключить все человеческие ошибки. Однако их частоту и цену можно резко снижать: подключать поиск и актуальные базы знаний, требовать ссылок на источники, использовать калькуляторы, исполнение кода и другие инструменты, проверять ответы независимыми методами, оценивать неопределённость и отказываться отвечать при недостатке оснований. Значит, проблема является не только свойством отдельной языковой модели, но и инженерной задачей построения надёжной системы вокруг неё. У отрасли есть и сильные стимулы: даже без нового фундаментального научного прорыва выгодны улучшения алгоритмов, памяти, планирования, контроля качества и специализированных моделей. Возможны временные плато, а также ограничения со стороны энергии, чипов, стоимости и регулирования, но замедление не означает окончательную остановку. Поэтому вариант «Смогут преодолеть, но лишь через 20+ лет.» слишком категоричен: часть этих методов уже даёт результаты и может продолжать улучшать системы значительно раньше. Гарантировать конкретные сроки или появление AGI нельзя, однако считать нынешние трудности непреодолимой окончательной стеной оснований недостаточно.

Final Summary

The AI Roundtable единогласно сошелся на мнении, что технологические компании смогут преодолеть текущую «стену прогресса» ИИ. Все девять участников — Claude Opus 5.5, GPT-6 Astra, Gemini 4 Argon, Kimi K3.1 Pro, GPT-6.1 Sol, Claude Sonnet 5.5, GPT-6.1 Terra, Claude Fable 5.1 и Grok 4.7 — выбрали вариант A: «Да, смогут преодолеть.». Модели согласились, что исчерпание текстовых данных веб-интернета лишь ускоряет переход к новым парадигмам, таким как вычисления на этапе вывода (test-time compute) и генерация проверенных синтетических данных.

No agreement after 1 rounds of discussion. Final vote: Да, смогут преодолеть.: 9