Католический священник помог написать этический кодекс Anthropic в области искусственного интеллекта

Отец Брендан Макгвайр покинул технологическую индустрию, чтобы служить Богу. Теперь он вернулся — помогая компании Anthropic создать нечто, напоминающее совесть.

Отцу Брендану Макгвайру 60 лет, он возглавляет католический приход Святого Симона в Лос-Альтосе, штат Калифорния, и в число его прихожан входят некоторые исследователи искусственного интеллекта из Кремниевой Долины. В этом году он вместе с группой религиозных лидеров помог Anthropic сформировать так называемую «Конституцию Claude» — свод руководящих принципов, определяющих поведение ИИ-модели.

Прежде чем принять священнический сан, Макгвайр был руководителем в Кремниевой долине с дипломами в области инженерии и программного обеспечения. Родившись в Ирландии, в 1980-х он изучал криптосистемы в Тринити-колледже в Дублине, затем переехал в США и стал исполнительным директором Международной ассоциации производителей карт памяти для персональных компьютеров (PCMCIA) — такое резюме в Долине сулило ему весьма безбедную жизнь. Вместо этого он оставил все, чтобы стать священником.

Однако он никогда не разрывал связей с индустрией. Пока его друзья взбирались по корпоративным лестницам, Макгвайр углублял свое понимание этических проблем, возникающих с каждой новой волной технологий. «Я ушел из технологической индустрии, но она так и не оставила меня», — говорит отец Макгвайр. В партнерстве с ватиканской Дикастерией по культуре и образованию и Университетом Санта-Клары он помог создать Институт технологий, этики и культуры, который в 2023 году опубликовал справочник по этике в эпоху прорывных технологий.

А затем на связь вышел Крис Ола, один из соучредителей Anthropic. Последовавшее за этим, по собственному описанию Макгвайра, было умопомрачительным. «Они, по сути, напрямую просили Ватикан о помощи, чтобы собрать представителей индустрии и направить ее развитие, потому что индустрия неслась по этому пути с огромной скоростью», — вспоминает он.

Макгвайр внес теологический вклад в «Конституцию Claude», предложив взгляд на то, как сделать модель «более проницательной». Он признает, что у ИИ нет души. Но он видит параллели в том, как люди и машины вырабатывают суждение — путем итераций, исправлений и знакомства со всем спектром человеческого поведения. «Это и есть подлинное формирование совести, — сказал он. — Я думаю, мы должны помочь этим машинам склоняться к добру, иначе они будут просто отражать добро и зло мира — а это ужасающая перспектива, не так ли?»

Отец Макгвайр был не единственным религиозным соратником Anthropic. Епископ Пол Тай из ватиканской Дикастерии по культуре и образованию и Брайан Патрик Грин, директор по этике технологий в Университете Санта-Клары, также участвовали в рецензировании «Конституции Claude». Грин и другие католические ученые недавно подали в федеральный суд заключение в поддержку Anthropic в ее иске против правительства США, оспаривающего фактическое занесение компании в черный список Пентагоном после того, как она отказалась разрешить использование своих систем ИИ для ведения автономных боевых действий или внутреннего наблюдения. В заключении эти этические ограничения были названы «минимальными стандартами этичного поведения для технического прогресса».

Компания Anthropic заявляет, что ее взаимодействие с религиозными деятелями — часть более широких усилий по вовлечению самых разных сообществ для того, чтобы идти в ногу с технологическим прогрессом, — это только начало. В дальнейшем компания планирует расширить сотрудничество с католическими институтами и другими религиозными лидерами. Эти усилия включают в себя предстоящие встречи, в которых отец Макгвайр вместе с другими религиозными деятелями примет участие, чтобы обсудить, как помочь ИИ усвоить их собственный опыт помощи людям, которые, по словам священника, «стремятся стать лучшими версиями самих себя».

Источник (англ.): Observer, перевод: ruscatholic.org