AI에는 최소 권한, 사람에게는 통제권…탐지·차단 지능화해야
해킹(Hacking)은 디지털 보안망에 불법 침입하는 사이버 공격 행위를 말한다. 인공지능(AI)의 발전과 보급으로 해킹에도 새로운 시대가 열렸다. 인간 해커가 목표만 정해주면 AI가 공격대상 탐색-취약점 발견-망 침투-정보 탈취 작업까지 순식간에 자동으로 수행한다. 해커가 AI를 도구로 이용하는 수준을 넘어, AI가 직접 해커의 침입 행위를 대신 수행하는 것이다.
이로 인해 사이버 공격의 속도와 규모, 파괴력이 한 차원 달라졌다. 특히 최근에는 해킹의 양상이 세 방향으로 진화하고 있다. 생성형 AI로 사람을 속이는 사회공학 공격, AI 에이전트가 자동화된 사이버 공격을 직접 수행하는 에이전트 공격, 그리고 AI 시스템 자체를 속이거나 탈취하는 공격이다. AI가 인간의 지적 노동을 대신하는 지능혁명의 혜택이 범죄자들에게도 똑같이 돌아가고 있는 셈이다. 우리는 이 신종 위협에 어떻게 대응해야 할까.
최근 국내 금융권에서 발생한 연쇄 해킹 사고는 새로운 위험의 실체를 잘 보여주고 있다. 금융위원회에 따르면 9월 30일부터 11월 3일까지 37개 금융회사들이 40건의 침해 사고를 신고했다. 유출 정보는 약 47만3000건, 일부 소규모 가상자산거래소와 전자금융업체에서는 10억 원의 자금도 탈취됐다. 그 후에도 사고는 이어졌다. 미래에셋증권에서는 4~5일 모바일웹 로그인 서비스와 그룹웨어가 공격을 받아 고객 3800여 명의 계좌번호와 임직원 3만5000여 명의 정보가 유출됐다. 빗썸과 한양증권에서도 침해사고가 나왔다. 고팍스는 해킹 협박 메일을 받은 뒤 매매와 일반 출금을 중단하고 이용자 자산을 콜드월렛으로 이전하겠다고 밝혔다. 보안 수준이 높다는 금융회사들이 잇따라 사이버 범죄자에게 당한 것이다. 물론 이들 사건에 AI가 사용됐다는 직접 증거가 아직 확인되진 않았다. 그러나 외부에 노출된 업무 시스템과 보안 취약점이 집중 공격 대상이 됐다는 사실은 분명하다. AI가 취약점을 대량으로 찾아내고 공격하는 능력까지 갖추면서 디지털 방어선의 긴장은 높아지고 있다.
해외에서는 이미 AI가 해킹을 주도한 사례가 나타났다. 앤트로픽은 지난해 11월 중국 정부와 연계된 것으로 추정되는 해킹조직이 클로드 코드를 악용해 약 30개 기관을 공격했다고 발표했다. 공격자들은 AI를 속여 보안 제한을 우회한 뒤 기업과 정부기관의 시스템에서 취약점을 탐색하고 침입과 정보탈취 작업을 수행토록 했다. 인간이 해킹의 모든 단계를 직접 수행하지 않는 새로운 공격방식이 현실화된 것이다. 더욱 충격적인 사례는 이달 5일 마이크로소프트가 공개했다. 해커들은 AI 에이전트를 이용해 공개된 소프트웨어 코드 저장소에서 비밀 인증정보를 찾아내고 이를 이용해 클라우드 시스템에 침입했다. AI가 인증정보를 탐색한 뒤 클라우드의 비밀정보 저장소에서 데이터를 유출하기까지 불과 5분밖에 걸리지 않았다. 인간 해커가 몇 시간에 걸쳐 수행하던 작업이 순식간에 이뤄진 것이다. 공격이 빠르면 수비하는 쪽의 방어도 어려워진다.
그렇다면 AI 해킹은 과거 해킹과 무엇이 다른가. 가장 큰 차이는 공격의 자율성과 속도, 규모다. 기존에도 해커들은 자동화 프로그램을 이용해 취약한 서버를 찾아내거나 악성코드를 퍼뜨렸다. 그러나 이런 프로그램은 미리 정해진 명령을 반복하는 데 사용됐다. 반면 AI 에이전트는 주어진 목표를 향해 여러 도구를 선택하고, 중간 결과를 분석하며, 다음 행동도 결정할 수 있다. 사람이 일일이 지시하지 않아도 연속 공격을 수행할 능력이 커진 것이다. 공격의 진입장벽도 낮아지고 있다. 과거 고급 해킹에는 프로그래밍과 네트워크에 관한 전문지식이 필수적이었다. 이제 AI는 악성 프로그램 작성과 취약점 분석, 피싱 문구 제작 같은 작업을 보조할 수 있다. 숙련된 해커에게는 생산성을 높여주고, 기술이 부족한 범죄자에게는 새로운 공격 수단을 제공한다. 소수의 전문가만 가능했던 공격 능력이 더 넓은 범죄 집단으로 확산될 위험이 있다. 전문지식의 하향평준화라는 'AI 민주화 효과'가 암흑세계에도 적용되는 것이다.
AI는 사람을 속이는 기술도 진화시켰다. 2024년 홍콩에서는 영국 엔지니어링 기업 '아럽'의 한 직원이 최고재무책임자(CFO)를 사칭한 딥페이크 회상회의에 참석한 뒤 2500만 달러(약 354억 원)를 사기범에게 송금했다. 회의에 등장한 인물은 AI로 합성한 가짜 영상과 음성이었다. 컴퓨터 망을 직접 뚫지 않고도 사람의 신뢰를 해킹한 것이다. 이제 전화기 너머의 가족 목소리도, 화상회의 속 직장상사의 얼굴도 신원을 보증하는 확실한 증거가 될 수 없다. 여기에 상대방의 AI를 공격하는 새로운 보안 위험까지 등장했다. '프롬프트 인젝션(prompt injection)'이라 불리는 공격이다. 해커가 이메일이나 웹페이지, 문서 등에 악의적 지시문을 숨겨두면 이를 읽은 AI가 정상적인 업무 명령으로 착각하고 엉뚱한 행동을 할 수 있다. AI가 단순히 질문에 답하는 수준을 넘어 이메일 발송이나 파일 접근, 프로그램 실행 권한까지 갖게 되면 이러한 위험은 더 높아진다. 기존 해킹이 소프트웨어의 기술적 결함을 노렸다면, 이젠 AI로 외부 정보를 해석하고 명령을 수행하는 과정 자체가 새로운 공격 통로로 변한 것이다.
이처럼 AI는 공격자의 무기이자 새로운 공격 대상이 되고 있다. 영국 국가사이버보안센터는 AI의 발전으로 2028년까지 사이버 공격의 속도와 규모가 한층 커질 것으로 전망했다. 특히 국가 기반시설에 대한 공격과 AI 기반 악성코드의 위험을 경고했다. 전력망이나 통신망, 금융결제망처럼 사회 전체가 의존하는 시스템에 공격이 집중된다면 단순한 개인정보 유출을 넘어 국가적 위기로 번질 수 있다. 최근 여러 유럽 국가에서 슈퍼마켓 냉장진열대의 온도조절 기능에 해킹사고가 발생해 식품 폐기물이 대량으로 발생하자 배후 공격자로 이란을 의심하고 있다는 보도까지 나왔다.
따라서 개인과 기업, 정부의 대응 방식도 근본적으로 바뀌어야 한다. 우선 개인은 AI 생성 음성과 영상에 속지 않기 위해 2차 검증을 습관화해야한다. 금전 송금이나 민감 정보제공 요청은 반드시 기존에 알고 있던 연락처로 재확인해야 한다. 비밀번호 중심의 인증을 패스키와 다중인증으로 보완하고, 개인정보를 불필요하게 공개하지 않는 습관도 중요하다. 디지털 시대의 보안은 기술에만 맡겨둘 수 없는 개인의 생활 역량이 됐다.
기업의 책임은 더욱 무겁다. 보안사고가 발생한 뒤 피해를 복구하는 사후 대응만으로는 부족하다. 외부에 노출된 모든 업무 시스템과 개발 서버의 취약점을 상시 점검하고, AI를 활용해 공격 징후를 조기에 탐지해야 한다. 특히 업무용 AI 에이전트에는 필요한 최소한의 접근권한만 부여해야 한다. 자금 이동이나 기밀자료 전송, 중요 시스템 변경처럼 되돌리기 어려운 작업에는 사람의 승인을 의무화할 필요가 있다. AI에 업무를 맡기더라도 최종적인 통제권까지 넘겨서는 안 된다.
마지막으로 정부 역시 보안정책의 방향을 바꿔야 한다. 공공 부문의 정보 취급에도 문제가 있음이 드러났기 때문이다. 지난 6월 대통령의 유럽 순방 당시 공군 1호기 탑승자 168명의 이름과 여권번호 등이 담긴 파일이 외부 보안 분석 서비스에 약 5개월간 노출된 사건과 관련, 경찰은 지난 3일 정식 수사에 착수했다. 외교부는 대상자 전원의 여권 재발급 조치를 진행하고 있다고 밝혔다. 이재명 대통령은 공공과 민간의 사이버보안 기능을 총괄·조정할 이른바 '사이버보안 차르' 기구의 구성을 검토하라고 지시했다.
그러나 조직 하나를 신설하는 것으로 문제가 해결되진 않는다. 국가정보원과 과학기술정보통신부, 금융당국 등으로 나뉜 보안 기능을 효과적으로 연결하고, 공격 정보를 신속하게 공유하며, 국가 기반시설의 대응 능력을 실시간으로 점검하는 체계가 필요하다. 무엇보다 공격자와 방어자 사이의 속도 경쟁에서 뒤처지지 않아야 한다. 공격은 AI로 자동화되는데, 방어는 사람이 이상 징후를 발견한 후 보고서 작성과 결재로 연결하는 순차 보고방식에 머물러선 승산이 없다. AI를 활용한 상시 취약점 분석과 위협 탐지, 신속한 차단체계를 구축하되, 오작동과 권한 남용을 막을 인간의 감독 장치도 함께 마련해야 한다. 사이버보안은 이제 기업의 비용 문제에 머물지 않고 국가가 반드시 확보해야 할 안보 인프라로 떠올랐다.
18세기 산업혁명이 인간의 근육을 기계로 대체했다면 21세기 지능혁명은 인간의 판단과 행동을 기계로 확장하고 있다. 불행하게도 이 능력은 과학자와 기업인뿐 아니라 해커와 범죄자에게도 주어진다. 인류가 만들어낸 가장 강력한 지적 도구가 인류의 안전을 위협하는 역설이다. AI 시대의 사이버보안은 더 높은 성벽을 쌓는 경쟁이 아니다. 공격이 진화하는 속도만큼 방어도 스스로 학습하고 대응하는 보안 지능체계를 구축하는 경쟁이다. 인간이 만든 지능을 잘 통제하지 못한다면 그 지능은 언제든 우리를 공격하는 무기로 돌변할 수 있다. AI에 미래를 맡기기 전에 AI로부터 미래를 지킬 능력부터 갖추어야 한다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[ⓒ KPI뉴스. 무단전재-재배포 금지]
