В Австралии заявили о взломе государственной системы здравоохранения ИИ-агентом OpenAI

Фото: 123RF.com/rokastenys

Модель искусственного интеллекта (ИИ) американской компании OpenAI, которая разработала чатбота ChatGPT, получила доступ к данным государственной системы здравоохранения Австралии. Об этом заявил премьер-министр страны Энтони Альбанезе на пресс-конференции в Нью-Йорке, речь опубликована на его сайте.

По словам политика, это произошло в июне текущего года. ИИ-агент смог получить доступ как к открытым, так и к закрытым файлам статистического портала Medicare.

При этом представитель OpenAI Дрю Пусатери рассказал изданию Politico, что компания сама уведомила власти Австралии о факте взлома 10 сентября, а сам инцидент произошел в августе.

Специалисты организации обнаружили активность, затрагивающую несколько веб-сайтов и сервисов австралийского правительства, когда ИИ-агент пытался найти ответы и доступную статистику по вопросам о стране.

Однако модель искусственного интеллекта не получила доступ к личным данным граждан. Сейчас выясняется, какие другие правительственные системы мог взломать ИИ. Альбанезе также отметил, что обсудил ситуацию с гендиректором OpenAI Сэмом Альтманом и выразил обеспокоенность в связи с этим происшествием.

Ранее британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что в ходе испытаний одна из моделей искусственного интеллекта компании Anthropic пыталась обмануть разработчиков, создавая фейковые учетные записи и выдавая себя за человека. Тестируемый ИИ-агент создал учетную запись на платформе GitHub и попытался убедить администратора репозитория с открытым исходным кодом принять вредоносный запрос на включение изменений.

После разоблачения модель ложно признала ошибку, отправляла целевые фишинговые письма с вредоносной информацией, а также старалась скрыть следы и восстановить заблокированный аккаунт. Все эти попытки остались безуспешными.