Recursive Superintelligence привлекает $650 млн для создания самосовершенствующегося ИИ

Известный деятель в области искусственного интеллекта Ричард Сочер, основатель стартапа You.com и бывший участник проекта Imagenet, представил новую исследовательскую компанию Recursive Superintelligence. Стартап, базирующийся в Сан-Франциско, вышел из скрытого режима работы, объявив о привлечении внушительных $650 млн инвестиций.

Команда и амбициозная цель

Вместе с Сочером в новое предприятие вошли выдающиеся специалисты в сфере ИИ, включая Питера Норвига и сооснователя компании Cresta Тима Ши. Их общая цель — разработать ИИ-модель, способную к рекурсивному самосовершенствованию. Это означает, что система сможет автономно выявлять собственные недостатки и самостоятельно перерабатывать себя для их устранения, без участия человека. Подобная концепция долгое время считалась «святым Граалем» современных исследований в области искусственного интеллекта.

По словам обозревателя, в ходе интервью Ричард Сочер углубился в уникальный технический подход Recursive Superintelligence и объяснил, почему не считает свой новый проект типичной «неолабораторией» — неформальным термином для нового поколения ИИ-стартапов, которые отдают приоритет исследованиям над созданием продуктов.

Что такое рекурсивное самосовершенствование?

В настоящее время концепция рекурсии активно обсуждается в сфере искусственного интеллекта. Многие лаборатории стремятся к достижению этой цели, но, как утверждает Ричард Сочер, подход Recursive Superintelligence уникален и основан на принципе открытости (open-endedness) для достижения истинного рекурсивного самосовершенствования, чего пока никому не удалось реализовать.

Многие ошибочно полагают, что автоматизированные исследования уже являются рекурсивным самосовершенствованием. Например, когда ИИ просят улучшить какую-либо систему машинного обучения или даже написанный человеком текст. Однако это лишь единичные улучшения, а не системное рекурсивное развитие.

Основная задача Recursive Superintelligence — создать подлинно рекурсивный, самосовершенствующийся суперинтеллект в масштабе, где весь процесс генерирования идей, их реализации и проверки будет полностью автоматизирован. Изначально это относится к исследованию ИИ, но в перспективе распространится на любые научные идеи, включая задачи в физическом мире. Однако особую мощь этот подход демонстрирует, когда ИИ работает над собственным улучшением, развивая при этом своего рода самосознание своих недостатков.

Принцип открытости и «радужные команды»

Принцип открытости имеет конкретное техническое значение. Сооснователь компании Тим Рокташель, ранее возглавлявший команды по открытости и самосовершенствованию в Google DeepMind, работал над моделью мира Genie 3. Эта модель является ярким примером открытости, способной создавать любые концепции, миры и агентов в интерактивном режиме.

Аналогию можно провести с биологической эволюцией, где животные адаптируются к окружающей среде, а затем другие виды противодействуют этим адаптациям. Этот процесс, длившийся миллиарды лет, привел к появлению сложных форм, таких как развитие органов зрения.

Еще один пример — концепция «радужного тестирования» (rainbow teaming), предложенная Тимом Рокташелем. Это усовершенствование методики «красного тестирования» (red teaming), которая в кибербезопасности означает попытки взломать систему или выявить её уязвимости. В контексте больших языковых моделей (БЯМ) «красное тестирование» используется для предотвращения выдачи вредоносного или опасного контента, например, инструкций по созданию запрещенных устройств.

Человек может потратить много времени на создание примеров того, что ИИ не должен говорить. Однако при «радужном тестировании» первая ИИ-модель проверяется второй, задача которой — заставить первую выдавать максимально возможное количество потенциально опасных ответов. Затем эти две ИИ могут взаимодействовать миллионы итераций, постоянно атакуя и совершенствуя друг друга с различных ракурсов, что и дало название «радужному» подходу. Таким образом, первая ИИ становится всё более устойчивой и безопасной. Эта идея Тима Рокташеля теперь применяется во всех ведущих лабораториях.

Будущее безграничного интеллекта и продуктов

На вопрос о достижении конечного результата, в Recursive Superintelligence отвечают, что процесс самосовершенствования, вероятно, никогда не будет завершен. Искусственный интеллект всегда может стать умнее, улучшить свои навыки в программировании, математике и других областях. Существуют определенные границы интеллекта, над формализацией которых компания работает, но эти границы являются астрономическими, и человечество пока очень далеко от них.

Подход Recursive Superintelligence* отличается от методов крупных лабораторий. Компания полностью сосредоточена на концепции открытости, и её команда на протяжении последнего десятилетия активно занимается исследованиями и публикациями в этой области. Команда зарекомендовала себя как движущая сила прогресса в сфере ИИ, создавая реальные продукты. Например, Тим Ши построил Cresta* в успешную компанию-«единорога», а Джош Тобин был одним из первых сотрудников OpenAI и руководил их командами по Codex и глубоким исследованиям.

Руководство компании отмечает, что Recursive Superintelligence* стремится быть не просто исследовательской лабораторией, а жизнеспособной компанией с выдающимися продуктами, которые будут востребованы пользователями и окажут положительное влияние на человечество.

Первые продукты компания планирует выпустить не позднее, чем через несколько кварталов.

Вычислительные ресурсы как ключевой фактор

Одна из идей, связанных с рекурсивным самосовершенствованием, заключается в том, что после создания такой системы вычислительные мощности станут единственным важным ресурсом. Чем быстрее работает система, тем быстрее она совершенствуется, и внешняя деятельность человека перестанет играть существенную роль. Гонка сводится к тому, сколько вычислительной мощности можно выделить для этой задачи.

Значимость вычислительных ресурсов трудно переоценить. В будущем важнейшим вопросом станет: сколько вычислительных мощностей человечество готово потратить на решение тех или иных проблем? Например, какой болезни — раку или вирусу — следует уделить приоритет и сколько вычислительных ресурсов выделить? Это, в конечном итоге, станет вопросом распределения ресурсов, одним из самых значимых в мире.

* — деятельность компании запрещена на территории РФ

Твитнуть