Сотрудники Google требуют запретить использование ИИ в секретных военных проектах Пентагона

Более 600 сотрудников компании Google подписали открытое письмо на имя генерального директора Сундара Пичаи с требованием прекратить сотрудничество с Министерством обороны США. Поводом для протеста послужила информация о переговорах корпорации с Пентагоном по поводу использования нейросетевых моделей в засекреченных операциях.

Протест внутри подразделения DeepMind

Среди подписавших обращение числятся ведущие специалисты лаборатории DeepMind, включая более 20 топ-менеджеров — директоров и вице-президентов. В обзоре ситуации отмечается, что ключевым требованием является отказ от любых секретных рабочих нагрузок. По мнению участников инициативы, это единственный способ гарантировать, что технологии Google не будут причастны к причинению вреда людям.

Сотрудники опасаются, что при работе с секретными данными использование ИИ может происходить без их ведома и возможности контроля. В письме подчеркивается, что отсутствие прозрачности в военных контрактах лишает разработчиков права остановить потенциально опасное применение алгоритмов.

Контекст оборонных инициатив

Ранее в СМИ появилась информация о том, что Google ведет переговоры с Пентагоном о внедрении своей современной языковой модели Gemini в закрытые военные системы. Это происходит на фоне постепенного отказа компании от прежних обещаний не участвовать в разработке оружия на базе искусственного интеллекта. Аналогичные соглашения уже реализуются конкурентами: Microsoft с февраля предоставляет ИИ-сервисы для работы в защищенных средах военного ведомства.

В тексте обращения также упоминается конфликт компании Anthropic с оборонным ведомством. Разработчик ИИ вступил в судебный спор с правительством после того, как отказался ослаблять этические барьеры в своих моделях для нужд военных США. Эту позицию поддержали многие представители технологической отрасли, выступающие против милитаризации гражданских разработок.

Основные опасения экспертов и персонала

• Отсутствие возможности проводить этический аудит в рамках секретных проектов.
• Риск использования гражданских нейросетей для анализа целей и планирования боевых операций.
• Утрата контроля над тем, как именно Пентагон интерпретирует и применяет данные, полученные от Gemini.
• Репутационные риски для компании, позиционирующей свои технологии как инструмент для всеобщего блага.

Твитнуть