OpenAI и Министерство обороны США: Новое соглашение
Сэм Альтман и защита демократических ценностей
Генеральный директор OpenAI Сэм Альтман рассказал о новом соглашении с Министерством обороны США, которое позволяет использовать ИИ модели компании в засекреченной сети ведомства. Это произошло после конфликта между Министерством обороны и конкурентом OpenAI, компанией Anthropic.
Пентагон настаивал на использовании ИИ технологий для всех законных целей, в то время как Anthropic пытался ограничить их применение в случаях массового внутреннего наблюдения и использования полностью автономного оружия.
Глава Anthropic, Дарио Амодеи, сообщил, что компания не стремится ограничить использование своей технологии в отдельных военных операциях, но подчеркнул, что ИИ в отдельных случаях может подрывать демократические ценности.
Более 60 сотрудников OpenAI и 300 сотрудников Google подписали открытое письмо, поддерживающее эту точку зрения.
После неудачных переговоров с Пентагоном, президент Дональд Трамп подверг критике Anthropic в социальных сетях и распорядился прекратить использование их технологий федеральными агентствами.
Министр обороны Пит Хегсет объявил о том, что Anthropic представляет риск для цепочки поставок, и запретил коммерческую деятельность с компанией для всех военных подрядчиков.
Несмотря на это, Anthropic намерены оспаривать это решение в суде.
Сэм Альтман сообщил, что новое соглашение OpenAI с Министерством обороны включает в себя защиту против массового наблюдения и сохранение человеческой ответственности за использование силы, что устраивает обе стороны.
OpenAI также построит технические системы безопасности, чтобы гарантировать корректное поведение их моделей, и разместит инженеров с Пентагоном для обеспечения безопасности.
Альтман подчеркнул, что они надеются установить такие же условия для всех ИИ компаний, избегая правовых конфликтов и предпочитая разумные соглашения.
