Ватикан и Anthropic: союз церкви и высоких технологий

Выступление соучредителя компании Anthropic Кристофера Олы на презентации первой энциклики Папы Льва XIV об искусственном интеллекте в Ватикане ознаменовало собой формирование беспрецедентного альянса между религиозным институтом и представителями Кремниевой долины. Это сотрудничество стало закономерным итогом стратегии Ватикана, который переходит от роли наблюдателя к прямому диалогу с технологическим сектором.

История Anthropic и концепция безопасного ИИ

Компания Anthropic была основана в 2021 году группой бывших исследователей OpenAI, включая Дарио и Даниэлу Амодеи. Основатели компании исходили из убеждения, что модели искусственного интеллекта стали слишком мощными, чтобы развиваться исключительно в условиях жесткой рыночной конкуренции и стремления к максимальной скорости внедрения.

Основным вектором развития Anthropic стала безопасность ИИ. Компания сосредоточилась на создании систем, которые не только обладают высокой производительностью, но и поддаются контролю. Фундаментом этого подхода является «конституционный ИИ» — метод обучения нейросетей на основе свода четких этических принципов, а не только путем ручной корректировки опасных или ошибочных ответов.

Путь к сближению

Интерес Ватикана к технологиям проявился еще в 2020 году в рамках инициативы «Римский призыв к этике ИИ», к которой присоединились Microsoft* и IBM. Изначально фокус внимания Святого престола был направлен на биоэтику, однако стремительное развитие ChatGPT и геополитическое противостояние между США и Китаем вынудили руководство католической церкви пересмотреть приоритеты.

В глазах Ватикана Anthropic стала ключевым партнером благодаря своей приверженности этическим стандартам. Внимание Святого престола привлекли исследования Кристофера Олы, который занимается интерпретируемостью моделей. Его работа направлена на то, чтобы сделать процессы внутри сложных нейронных сетей понятными для человека, что перекликается с опасениями Папы Льва XIV о создании систем, выходящих из-под контроля.

Этика как инструмент влияния

Сотрудничество с Ватиканом дает Anthropic значительное репутационное преимущество. В условиях глобальной дискуссии о влиянии ИИ на рынок труда, национальную безопасность и системы слежения, статус компании, ориентированной на безопасность, становится важнейшим маркетинговым и идеологическим активом.

В тексте энциклики подчеркиваются следующие аспекты:

• Технологии не являются нейтральными, так как алгоритмы неизбежно отражают мировоззрение создателей.
• Существует риск концентрации власти в руках узкого круга транснациональных частных корпораций.
• Необходимо участие внешних институтов в регулировании ИИ, так как одних усилий технологических компаний недостаточно.

Цифровая угроза человечеству

Папа Лев XIV предупреждает об опасности возникновения «цифрового Вавилона», в котором человеческие отношения, истина и личность сводятся к сухим данным и показателям эффективности. В ходе обсуждения энциклики Кристофер Ола признал, что даже компании, внимательные к этике, вынуждены учитывать рыночные стимулы, которые порой противоречат общественным интересам.

Главная тревога Ватикана и экспертов в области безопасности заключается в том, что «Хиросимой XXI века» может стать не единичная катастрофа, а процесс постепенной социальной автоматизации. Риск заключается в передаче машинам фундаментальных функций мышления, выбора и общения, что может привести к дегуманизации общества, если развитие технологий не будет ограничено четкими этическими рамками.

* — деятельность компании запрещена на территории РФ

Твитнуть