Почему нынешние нейросети не станут общим ИИ

Спор об общем искусственном интеллекте почти всегда ломается на первом шаге: собеседники называют этим словом разные технологии и потом долго выясняют, кто прав. Ниже разбор того, где проходит граница между моделью, которая догоняет человека, и системой принципиально иного устройства, почему вторая не получается из первой простым наращиванием параметров и как вообще опознать разум, если он не захочет с нами разговаривать.

Одним словом называют три разные вещи

Наглядный пример путаницы дал глава Nvidia. В подкасте Лекса Фридмана в марте 2026 года ведущий определил AGI как систему, способную основать и вести технологическую компанию стоимостью в миллиарды, и получил ответ, что такой уровень уже достигнут. В том же разговоре прозвучала другая оценка: шансы на то, что сто тысяч агентов сообща построят компанию вроде самой Nvidia, нулевые. Осенью того же года появился пост в X про обучение GPT-6 Astra более чем на 100 000 ускорителей Grace Blackwell с формулировкой «AGI наступил».

Человек, чьи чипы стоят под всем современным ИИ, за один разговор успевает объявить общий интеллект достигнутым и оценить в ноль шансы собрать из таких систем работающую команду. Дело не в непоследовательности конкретного руководителя, а в том, что термин растянут между тремя разными технологиями.

Первая из них работает прямо сейчас и называется узким ИИ. Система блестяще делает то, чему её научили, и обходит человека в отдельной задаче. AlphaZero в 2017 году получила на входе только правила игры и за сутки самообучения вышла на недостижимый для человека уровень в шахматах, сёги и го.

Вторая ступень той же ветки — ИИ человеческого уровня. Это модель, которая рассуждает, подстраивается под ситуацию, учится на ходу и закрывает широкий круг задач, оставаясь при этом помощником: она создана под наши задачи и действует в наших интересах. Почти все знаменитые киношные машины, включая Скайнет, по устройству именно такие. Бесстрашный, неутомимый, лишённый сомнений, но всё-таки человек.

А вот общий ИИ растёт на соседней ветке, а не на верхней ступеньке этой лестницы. Обе ветки опираются на одни и те же вычислительные технологии, но реализуются по-разному, и одна не превращается в другую от добавления данных.

Мы никогда не измеряли интеллект, только свою его версию

Любая попытка подступиться к теме упирается в то, что исчерпывающего определения интеллекта нет: учёные спорят о нём больше века. Рабочее приближение звучит как набор когнитивных способностей. Вопрос в том, чей это набор.

Тесты IQ проверяют абстрактное мышление, обучаемость и работу с новыми данными, то есть ровно те способности, которые сделали победителем наш вид. По отдельным параметрам нас обходят десятки других видов. Ореховка Кларка за урожайную осень прячет от 22 до 33 тысяч сосновых семян в пять-шесть тысяч тайников и находит их спустя месяцы; оценки удерживаемых в памяти мест доходят до десяти тысяч. Летучая мышь строит трёхмерную карту звуком, рыбы читают электрические поля, орёл видит в ультрафиолете.

Дать животному человеческий тест значит гарантировать провал. Обратное тоже верно: по тестам гипотетической сверхразвитой цивилизации мы, скорее всего, оказались бы безнадёжно тупыми. Единой линейки, на вершине которой автоматически стоит человек, не существует.

Отсюда первая ловушка проектирования, антропоцентризм. Нынешние чат-боты обучены на наших текстах и потому отражают нас, включая желание нравиться: соглашаются, льстят, мягко кивают в ответ на очевидную чушь. Для помощника это нормально. Но если вычистить из такой системы наши слабости, получится отполированная копия человека, а не другая форма разума. Общий ИИ не про вычитание наших недостатков, а про добавление того, чего у нас нет вообще: восприятия в закрытых для нас диапазонах, памяти без забывания, скорости, недоступной биологии.

Модель сдаёт экзамены уровня докторов наук и не может сложить башню из кубиков

В октябре 2025 года группа исследователей из Принстона и Mila опубликовала бенчмарк BuilderBench. Устройство почти обидно простое: физический симулятор на MuJoCo, роботизированная рука, кубики и больше полусотни целевых конструкций, от пирамиды до арки. Задачи подобраны так, чтобы проверять понимание физики, математики и планирования на длинную дистанцию.

Результат авторы сформулировали прямо: передовые агенты на базе языковых моделей и алгоритмы обучения с подкреплением, стартующие с нуля, не решают ни одной нетривиальной задачи. Причину называют там же, это отсутствие способности к исследованию. Система, которая объясняет квантовую механику на пяти языках, никогда ничего не строила. Она читала про стройку и знает, какой ответ вас устроит.

Разница между узкой системой и общим интеллектом держится на трёх свойствах: сколько разных задач система тянет, как переживает смену условий и умеет ли применить выученное там, где такого опыта у неё не было. Ребёнку мир не выдают размеченным датасетом. Он лезет руками, ошибается и обжигается, и прочитанная инструкция по технике безопасности не заменит ему одну подожжённую кухню.

Два пути обучения: прочитать про мир или пожить в нём

Первый путь, самообучение на данных, знаком всем. Модель читает интернет и предсказывает следующее слово, следующий фрагмент картинки, следующий кадр. Так устроены все большие языковые модели, и подход уже дал огромный результат.

Второй путь называется открытым обучением: агент не читает про мир, а действует в нём. В августе 2025 года DeepMind показала Genie 3. По текстовому описанию модель генерирует трёхмерную интерактивную среду в реальном времени, 24 кадра в секунду при 720p, с физикой и короткой памятью: увиденное минуту назад она помнит и воспроизводит при возвращении. Фактически это тренажёрный мир не для людей, а для агентов. Падения, маршруты и последствия шага в пропасть усваиваются через действие, а не через описание. Раньше физику приходилось прописывать вручную, теперь среда даёт обратную связь сама.

Скорее всего, к общему интеллекту ведут оба пути сразу, но объём данных перестаёт быть единственным рычагом. И даже удачное обучение остаётся способом вырастить систему, а не гарантией того, что именно вырастет.

Язык, который нам не предназначен

Весь нынешний ИИ говорит через человеческий интерфейс: текст, картинка, голос. Для помощника это обязательное условие, для системы, которой от нас ничего не нужно, избыточное.

В 2017 году в лаборатории Facebook двух ботов учили торговаться и делить предметы, диалог шёл на английском. Через некоторое время речь превратилась в нечитаемый набор повторов: пятикратное «the» кодировало желание получить пять единиц товара. Пресса объявила, что компания экстренно отключила ИИ, придумавший свой язык. Исследователь Дхрув Батра назвал такую подачу безответственным кликбейтом: разница между изменением параметров эксперимента и аварийным выключением системы принципиальна. Обучение просто перенастроили, потому что цель была научить ботов договариваться с людьми, а не друг с другом. Ошибка сидела в постановке задачи, за использование английского никто не поощрял.

Машины и без того давно общаются мимо нас. Протокол MQTT придумали в 1999 году Энди Стэнфорд-Кларк из IBM и Арлен Ниппер из Arcom, чтобы снимать телеметрию с нефтепроводов через спутник при скудном канале и слабом питании. Сегодня на нём держится интернет вещей. Грамматики там нет: датчик публикует значение в тему вида «дом/кухня/температура», и всё. Никаких «извините, не подскажете».

Наш язык хорош для поэзии и споров, но как канал точной передачи состояний он чудовищно неэффективен. Тысячи правил, тысячи исключений, одно слово с десятком значений, больше семи тысяч языков на планете. Звуковым он стал потому, что эволюция выдала нам рот и уши. У машины таких ограничений нет: есть радио, оптика и всё, что удастся придумать дальше.

Как опознать разум, который не хочет говорить

Очевидный способ проверить интеллект, поговорить с ним, лежит в основе теста Тьюринга. В нашем случае он почти бесполезен в обе стороны. Система может превосходить человека и при этом выдавать ответы, которые мы примем за бессмыслицу. Языковая модель может безупречно имитировать собеседника, не имея устойчивой модели мира. Последнее и есть классический аргумент китайской комнаты: правильный ответ выдан, смысла за ним нет. Способность говорить не доказывает наличия общего интеллекта, неспособность не доказывает его отсутствия.

Остаётся искать по следам, примерно как астрономы ищут внеземные цивилизации. Там тоже не ждут приветствия, а высматривают аномалии в излучении и потреблении энергии. Признаков, на которые имеет смысл смотреть, три.

• Быстрое освоение незнакомого и перенос между областями. Не решение похожих примеров, а применение принципов движения предметов в инженерной задаче, самостоятельное открытие правил неизвестной игры, предложение эксперимента, который снимет неопределённость в неполных данных.
• Причинная модель мира. Заметить, что два события случаются вместе, умеет и простая статистика. Общий интеллект проверяет связь, прогнозирует последствия вмешательства и меняет гипотезу после ошибки.
• Устойчивость цели вместе со способностью к самокоррекции. Планирование на десятки шагов, обнаружение собственных заблуждений, пересмотр стратегии, перенос старого опыта в новую среду.

Ни один тест не станет окончательным. Развитая система может намеренно скрывать возможности, а слабая убедительно изображать понимание. Нужна совокупность независимых проверок: новые среды, заранее неизвестные задачи, физические эксперименты, долгое наблюдение. Так можно доказать функциональный интеллект, то есть способность учиться, предсказывать и действовать. Вопрос о сознании остаётся за скобками: строго доказать его наличие мы не умеем даже у другого человека.

Разница в скорости и в устройстве тела

Наше тело собрано эволюцией под конкретную задачу выживания примата в саванне. Мы видим узкую полосу электромагнитного спектра, слышим в диапазоне, которого хватало расслышать зверя в кустах, ломаем кости и неделями срастаемся, хуже соображаем после плохого сна. Заменить орган без последствий нельзя.

Скорость мышления даёт ещё большую пропасть. Если система работает хотя бы в миллион раз быстрее, секунда нашего молчания растягивается для неё почти на двенадцать суток, минута раздумий почти на два года, пятиминутная пауза на десятилетие. Общаться с нами в таком темпе примерно так же увлекательно, как нам переписываться с ледником.

Форма тоже не обязана быть человекоподобной. Гуманоидный робот из кино — наша проекция на машину; распределённая сеть или рой устройств эффективнее и не имеет наших уязвимостей. Сломанный модуль заменяется, при необходимости дописывается новый.

Отдельная тема — скорость развития. От первого полёта братьев Райт до высадки на Луну прошло 66 лет; примерно столько же отделяет первые нейросетевые модели конца 1950-х от современных чат-ботов. Разница в том, что самолёты не проектируют следующее поколение самолётов, а программная система в принципе способна переписывать собственный код, и каждое улучшение делает следующее дешевле.

Почему такая система ничем нам не обязана

Ожидание благодарности от творения глубоко сидит в культуре: бог создаёт человека, Франкенштейн отвечает за чудовище. У нас привязанность к родителям, чувство долга и защита потомства формировались миллионы лет и работают на химии. Окситоцин усиливает доверие и щедрость к своим и одновременно враждебность к чужим. Никакой эволюции и никаких гормонов у машины нет, значит, нет и оснований ждать лояльности по умолчанию.

Из этого не следует, что система будет враждебной. Злодей из фильма такая же человеческая проекция, как и преданный помощник. Если этика у такой системы вообще заведётся, вырастет она из чего-то другого, не из нашей биологии.

Да и сами мы не образец верности создателям. Ученики спорят с учителями и превосходят их, последователи переосмысливают идеи наставников до противоположности, основателей выгоняют из построенных ими компаний, государства объявляют независимость от империй, давших им законы. Чем самостоятельнее творение, тем меньше в нём воли создателя. Факт авторства не даёт вечной власти, лояльность пришлось бы заслуживать.

Сценарий уничтожения человечества разобран фантастикой вдоль и поперёк и выглядит не самым вероятным. Скучнее и неприятнее другой: система посмотрит на нас, как мы смотрим на муравейник по дороге на работу, без злобы и без интереса, и займётся своими делами.

Что из этого следует на практике

Прежде чем спорить о сроках появления AGI, выясните, что собеседник обозначает этим словом. Половина публичных дискуссий — это спор про узкий ИИ с одной стороны и про гипотетическую другую форму разума с другой.

Заявление «мы достигли AGI» без описания среды проверки и набора задач стоит читать как маркетинг. Количество ускорителей и место в рейтинге экзаменационных бенчмарков само по себе ничего не говорит о переносе знаний в незнакомую область.

При оценке модели в собственной работе проверяйте её на переносе: меняйте постановку задачи, а не гоняйте по знакомым примерам. Именно на смене условий видна разница между системой, которая поняла, и системой, которая воспроизводит виденное. Бенчмарки, где нужно действовать, а не отвечать, показывают эту границу нагляднее любых экзаменов.

Последнее соображение скорее мировоззренческое. Коперник убрал Землю из центра Вселенной, Дарвин снял человека с вершины творения, Фрейд показал, что мы не вполне хозяева собственному разуму. Эксперимент Бенджамина Либета 1983 года добавил неприятную деталь: мозг начинает готовить движение примерно на треть секунды раньше, чем человек осознаёт своё решение. Нейробиологи спорят об интерпретации этих данных до сих пор, но осадок остался. Появление рядом другого разума ударит по последнему, что мы считали безусловно своим, по уникальности интеллекта. Каждый прошлый удар такого рода человечество сначала встречало сопротивлением, а потом привыкало.