Во второй половине сентября 2026 года вокруг OpenAI сошлись три новости. The Information написала, что внутренние модели компании берут на себя большую часть работы по созданию экспериментальных моделей. Сама OpenAI предложила международные технические стандарты для ИИ, способного улучшать сам себя. А 404 Media рассказала, как компания увольняет людей, которых нанимала оценивать ответы ChatGPT, за то что они поручали эту оценку нейросетям. Вместе эти истории хорошо показывают, где сейчас проходит граница между работой машины и работой человека в разработке ИИ.
Что уже автоматизировано внутри OpenAI
По данным The Information, внутренние модели OpenAI способны вести значительную часть процесса построения и обучения экспериментальных моделей. Исследователь даёт модели один пример нужной оптимизации, после чего она неделями почти самостоятельно реализует и проверяет похожие улучшения: запускает эксперименты, меняет код, смотрит на результат и повторяет цикл. Несколько агентов при этом могут договариваться между собой без участия людей.
Самый заметный сдвиг касается кода для GPU. Написание и оптимизация низкоуровневых программ для видеокарт считались одной из самых сложных частей разработки больших моделей, этим занимались дорогие специалисты, часто вручную, строка за строкой. Теперь модели пишут такие программы, оптимизируют их и помогают создавать код, на котором учатся другие модели. По словам источников издания, такой уровень стал возможен только в последние несколько месяцев.
Цифры, которые называет сама компания
- К середине августа 2026 года рабочих дней агентов внутри OpenAI стало в 3,1 раза больше, чем рабочих дней людей.
- Медианный исследователь тратит на инференс больше 600 долларов в день, у 10% самых активных — больше 7000 долларов.
- Компания считает, что достигла уровня «автоматизированного стажёра-исследователя», а «автоматизированного исследователя ИИ» ставит целью к марту 2028 года.
- При этом больше половины успешно выполненных задач длиной 4–8 часов всё ещё требовали вмешательства человека.
Последняя цифра важна как противовес первым трём. Агентов много и они дешевле людей, но длинную работу целиком сами пока не вытягивают.
Почему это называют рекурсивным самоулучшением
Рекурсивное самоулучшение (RSI, recursive self-improvement) — это сценарий, в котором достаточно сильная система помогает построить следующую, более сильную, та — ещё более сильную, и процесс разгоняется. Опасение в том, что в какой-то момент люди перестанут понимать, что происходит, и не смогут это контролировать.
OpenAI прямо пишет, что полностью автономного RSI сегодня нет и двигаться к нему без мер безопасности нельзя. Одновременно одной из своих главных целей компания называет создание автоматизированного исследователя ИИ, сохраняя человека внутри процесса. Главный риск, который она описывает: если одна модель пишет код для обучения другой, а этот код становится слишком сложным для людей, привычные способы контроля теряют силу. Выгода тоже очевидна: автоматизированные исследователи могут ставить гораздо больше экспериментов в математике, программировании и других областях.
Какие стандарты предлагает OpenAI
21 сентября OpenAI предложила США возглавить международную работу над техническими стандартами для самых мощных моделей, включая системы с признаками самоулучшения. Предложение касается нескольких областей:
| Что стандартизировать | Что имеется в виду |
|---|---|
| Измерение возможностей | общие методы оценки для государств и исследовательских организаций, в том числе способности модели самостоятельно вести исследования и разработку |
| Доля автоматизации | какая часть R&D внутри компании уже выполняется без людей |
| Точки человеческого контроля | при каком уровне риска автоматизированный исследовательский процесс должен немедленно останавливаться на проверку человеком |
| Инциденты | единая классификация, уровни серьёзности и порядок отчётности |
В качестве образца компания приводит отрасли, где страны давно пользуются общими техническими правилами, не отдавая национальных полномочий: авиацию и финансовую стабильность. Координировать работу предлагается через американский Центр стандартов и инноваций в области ИИ (CAISI) и сеть национальных институтов безопасности ИИ. Лицензий и обязательного одобрения моделей перед выпуском в предложении нет, решение о принятии стандартов остаётся за правительствами.
В тот же день около 20 стран во главе с Финляндией и Норвегией приняли отдельную декларацию о сохранении человеческого контроля над ИИ. США и Китай её не подписали.
Взаимное тестирование с Anthropic
По данным The Information, OpenAI и Anthropic обсуждали юридически обязывающее соглашение о проверке моделей друг друга. Логика простая: собственная команда может не заметить проблем в своей модели, а конкурент ищет их с другой стороны. Стороны получали бы доступ к коммерческим моделям друг друга через API и гарантировали бы, что не сохраняют данные партнёра. Невыпущенные модели в соглашение не входят. Было ли оно подписано, на момент публикации неизвестно.
Обратная сторона: люди, которые отдают свою работу ИИ
Пока агенты берут на себя инженерную часть, одна работа остаётся за людьми по определению: оценка ответов модели. OpenAI привлекает для неё тысячи подрядчиков, в отдельных проектах больше десяти тысяч. Они читают реальные запросы, сравнивают варианты ответов и выбирают лучший, и на этих оценках модель учится вести себя естественнее.
404 Media выяснила, что часть исполнителей стала поручать эту оценку другим нейросетям. Правила это прямо запрещают: во внутренних инструкциях сказано не пользоваться ни ИИ, ни детекторами ИИ. Причина понятна: если одна модель оценивает ответы другой, данные для обучения теряют ту самую человеческую составляющую, ради которой за них платят, и качество модели может падать.
- Подрядная компания Mercor, через которую набирают многих оценщиков, подтвердила: если использование ИИ доказано, исполнителя сразу отстраняют от проекта.
- Для выявления нарушений применяют системы, которые проверяют, действительно ли работу сделал человек. Одному из уволенных в письме указали на проблемы с «подлинностью» ответов. Сам он объяснил, что ему просто понадобилась небольшая подсказка.
- По словам исполнителей, в командах из тысяч человек такие нарушения находят регулярно.
- Всплыла и другая проблема: один подрядчик рассказал, что иногда выбирал ответы наугад или намеренно отмечал худший вариант, хотя видел лучший. Работа, по его ощущению, временами выглядела так, будто ему платят за то, чтобы делать ИИ хуже.
Получается парадокс: компания нанимает людей именно ради человеческой оценки, а часть этих людей перекладывает её обратно на машины или выполняет формально. Для обучения такие данные бесполезны или вредны.
Что из этого следует на практике
- Меряйте долю автоматизации у себя. Если агенты пишут значимую часть кода или экспериментов, полезно знать, какую именно и на каких участках их результаты никто не перепроверяет.
- Заранее определите точки остановки. Идея обязательной проверки человеком при определённом уровне риска применима и в небольшой команде: миграции, доступы, выкладка — всё, что трудно откатить.
- Ведите учёт инцидентов по уровням. Единая шкала серьёзности облегчает разбор и позволяет видеть динамику, а не отдельные случаи.
- Проверяйте, откуда берётся «человеческая» оценка. Если вы размечаете данные или собираете экспертные оценки через подрядчиков, без проверки подлинности часть работы окажется сделанной нейросетью или наугад.
- Не принимайте цифры автоматизации без контекста. Соотношение 3,1 к 1 в пользу агентов соседствует с тем, что больше половины длинных задач всё ещё требуют человека.
Сравните модели перед запуском
Тарифы, лимиты и список моделей — на стороне сервиса. Если что-то разойдётся с описанным здесь, напишите: поправим материал и проставим новую дату проверки.
Открыть каталог моделейСсылка партнёрская: цена для вас не меняется, проект получает вознаграждение.
