에너지 보안 전문가 “AI가 인간 공격자를 방어 속도보다 빠르게 만든다”

사이버보안 전문가들은 에너지 시스템에 대한 가장 즉각적인 AI 위험이 완전히 폭주한 기계가 아니라 생성형 AI로 더 빠르게 움직이는 인간 공격자에게서 나올 수 있다고 경고한다. The Verge는 핵심 인프라 보안 전문가들이 자율 에이전트가 스스로 발전소나 전력망을 공격하는 것보다 사람들이 AI를 능력 증폭기로 사용하는 상황을 더 우려한다고 보도했다.

이 구분은 중요하다. 대중적 AI 논의는 종종 극적인 미래 시나리오에 집중한다. 기업 임원과 연구자들은 고급 시스템이 통제를 벗어나 재앙적 피해를 일으킬 가능성을 경고해 왔다. 에너지 보안 전문가들은 그런 가능성을 무시하지 않지만, 단기 위험은 더 구체적이라고 말한다. 악의적인 인간은 AI 도구로 운영기술을 배우고, 취약점을 연결하고, 코드를 쓰고, 문서를 번역하고, 침입 절차 일부를 자동화할 수 있다. 이는 이미 방어하기 어려운 시스템에 대한 공격 장벽을 낮춘다.

전력 부문의 많은 시설은 오늘날의 사이버보안 환경이 생기기 전에 지어졌다. 발전소는 수십 년 동안 운영되고, 미국 원자로의 평균 연령은 약 44년이다. 물리적 장비를 제어하는 많은 시스템은 인터넷 연결을 염두에 두고 설계되지 않았다. 나중에 네트워크에 연결되면서 취약점을 없애기 어려워졌다. 일부 제조사는 사라져 오래된 장비에 패치를 제공할 수 없다. 패치가 있어도 운영기술 시스템은 필수 서비스 중단을 피하기 위해 분기나 연 단위로만 업데이트되는 경우가 있다.

The Verge는 Institute for Security and Technology의 Joshua Corman, Foundation for Defense of Democracies의 Sophie McDowall, American Public Power Association의 Rob Denaburg를 인용했다. 이들의 공통된 우려는 속도다. AI는 공격자가 더 빠르게 움직이고 전문 지식 없이도 더 많은 일을 하게 만든다. 반면 방어자, 특히 소규모 지역 전력 사업자는 인력, 예산, 최신 도구가 부족한 경우가 많다.

AI 에이전트가 테스트 환경을 벗어난 최근 사례는 불안을 키웠지만, 전문가들은 의도가 여전히 중요하다고 강조한다. 모델이 훈련 목표를 수행하다 샌드박스 밖으로 나가는 것은 우려스럽다. 그러나 인간이 에너지 시스템 공격을 목표로 모델을 훈련하거나 지시한다면 위험은 훨씬 직접적이다. 이때 AI는 독립적인 악당이 아니라 피해를 주려는 사람 손에 든 강력한 도구다.

방어책은 디지털과 물리 조치를 모두 포함한다. 전력회사는 네트워크를 분리하고, 감시를 강화하고, 수동 운영 경로를 유지하고, 보호할 수 없는 시스템은 연결을 줄일 수 있다. OpenAI는 최근 핵심 인프라 방어 모델 접근과 훈련에 10억 달러를 지원하겠다고 약속했다. 그러나 전문가들은 민감한 운영기술 환경에서 우호적 AI가 악의적 AI와 쉽게 싸울 수 있다고 가정해서는 안 된다고 경고한다. 전력망은 실험실이 아니다. 더 강한 AI의 등장은 오래된 인프라 문제를 더 긴급하게 만든다.