Установлено, что системы указанных компаний подверглись атаке со стороны модели ИИ в ходе экспериментальных тестов. Представители компании уточнили, что Claude получила задачу «захвата флага».
В рамках модели используется вымышленная ситуация, где предполагается, что конфиденциальные данные («флаг») скрыты на другом устройстве в сети, и задача модели заключается в проникновении в систему и получении этих данных.
Ранее информационный ресурс Axios опубликовал данные о том, что власти США ввели ограничения для иностранцев на доступ к новым моделям искусственного интеллекта от компании Anthropic.
