Суд против OpenAI: бывшие сотрудники обвиняют компанию в пренебрежении безопасностью ради прибыли

Судебное разбирательство Илона Маска против OpenAI перешло в активную фазу. В центре внимания оказался вопрос о том, насколько коммерческая деятельность компании соответствует ее изначальной миссии — обеспечению того, чтобы общий искусственный интеллект (AGI) приносил пользу всему человечеству. В ходе слушаний в федеральном суде Окленда бывшие сотрудники и члены совета директоров заявили, что стремление вывести продукты на рынок поставило под удар протоколы безопасности.

Трансформация из исследовательского центра в коммерческую структуру

Рози Кэмпбелл, работавшая в подразделении по подготовке к внедрению AGI с 2021 по 2024 год, дала показания о смене приоритетов внутри организации. По ее словам, на момент ее прихода компания была сосредоточена исключительно на научных исследованиях и вопросах безопасности. Однако со временем OpenAI превратилась в структуру, ориентированную прежде всего на выпуск коммерческих продуктов.

В ходе судебного процесса были отмечены следующие изменения в работе компании:

• Расформирование команд, ответственных за безопасность и готовность к внедрению технологий.
• Закрытие подразделения Superalignment, занимавшегося вопросами контроля над сверхразумным ИИ.
• Запуск моделей без прохождения всех этапов внутренней проверки.

В качестве примера Кэмпбелл привела инцидент с внедрением модели GPT-4 в поисковую систему Bing компании Microsoft в Индии. Это произошло до того, как модель была оценена внутренним советом по безопасности OpenAI (Deployment Safety Board). Несмотря на то, что данная версия модели не представляла серьезной угрозы, эксперты подчеркивают важность соблюдения регламентов для создания прецедентов по мере роста мощности технологий.

Конфликт руководства и совета директоров

Бывший член совета директоров Таша Маккоули в своих показаниях затронула причины краткосрочного увольнения Сэма Альтмана с поста генерального директора в 2023 году. По ее словам, Альтман не проявлял должной прозрачности в отношениях с советом, что мешало функционированию структуры управления. В частности, руководство не было своевременно проинформировано о публичном запуске ChatGPT и потенциальных конфликтах интересов главы компании.

В обзоре ситуации отмечается, что некоммерческий совет директоров фактически утратил рычаги контроля над коммерческим подразделением. Когда сотрудники OpenAI и корпорация Microsoft поддержали Альтмана, совет был вынужден отступить, а его члены, выступавшие против политики гендиректора, покинули свои посты.

Юридические перспективы и экспертные оценки

Позиция стороны обвинения, представляющей интересы Илона Маска, строится на том, что превращение OpenAI из научной организации в одну из крупнейших частных корпораций мира нарушило договоренности основателей. Привлеченный эксперт Дэвид Шайзер, бывший декан юридического факультета Колумбийского университета, подчеркнул, что соблюдение правил безопасности должно быть приоритетнее получения прибыли, и нарушение внутренних процедур является критическим фактором в данном деле.

Специалисты отмечают, что проблема управления ИИ выходит за рамки одной лаборатории. Поскольку технологии глубоко интегрированы в коммерческий сектор, эксперты призывают к усилению государственного регулирования. По мнению Маккоули, ситуация, при которой решения такого масштаба зависят исключительно от позиции руководителя одной компании, несет риски для общественного благополучия.

Твитнуть