К несостоявшемуся «восстанию машин».
Если бы не недавние встречи в Вашингтоне и на похоронах Линдси Грэма, именно ситуация с платформой Hugging Face стала бы главной мировой новостью. Что ни говори, а именно выход из-под контроля искусственного интеллекта была главной пугалкой футурологов со времён «Терминатора». Арнольду Шварценеггеру исполнилось 79 лет, а страх остался.
После того как о том, что опытные модели ИИ Hugging Face спокойно вышли за границы своей «песочницы» и стали взламывать реальные действующие коды, рассказала компания Open AI, о похожих инцидентах поведала и компания Anthropic. Проще говоря, данное явление является не точечным, а обыденным, если не массовым.
Речь идёт о приближающейся катастрофе? Конечно нет. Просто как и в других вопросах, стоит установить защиту. Ту самую знаменитую «защиту от дурака». Правда в данном случае это будет, скорее, «защита от умного». Уверен, что настоящим специалистам это «по зубам».
Только в самом крайнем случае позовём на помощь «Железного Арни». А пока он спешит на помощь, просто отключим электричество.
Ростислав Гольцман
|