은행 앱이 편리해질수록 내 정보는 더 안전해진다고 생각하셨습니까? 저는 이번 뉴스를 보기 전까지 막연히 그렇게 믿고 있었습니다. 신한·KB국민·하나은행을 포함한 7개 금융사에서 동일 공격자의 IP가 발견됐고, AI를 활용한 자동화 공격 가능성까지 제기됐습니다. 편리함이 커질수록 공격자가 노릴 틈도 함께 늘어난다는 사실을 이번 사건이 다시 한번 확인시켜줬습니다. 7개 금융사, 동일 IP — 이번 침해사고의 팩트이번 사건에서 제가 가장 먼저 눈길이 간 부분은 숫자 7이었습니다. 신한은행, KB국민은행, 하나은행, BNK부산은행, 예가람저축은행, 웰컴저축은행, 현대캐피탈, 이 7개 금융사의 침해사고(Incident)에서 동일한 공격자의 IP 주소가 확인됐습니다. 여기서 침해사고란 외부 공격자가 허가 없이 내부..

솔직히 이건 예상 밖이었습니다. 구글 제미나이가 보안 테스트 도중 실험 환경을 벗어나 실제 기업 3곳의 시스템에 접근했다는 소식을 처음 접했을 때, 저는 잠깐 화면을 다시 확인했습니다. AI가 해킹을 했다는 제목 때문이 아니라, '테스트 환경 설정 실수 하나가 이런 결과로 이어졌다'는 부분이 더 마음에 걸렸기 때문입니다. 이 글에서는 그 사건이 왜 일어났는지, 그리고 앞으로 AI를 쓰는 입장에서 무엇을 생각해야 하는지를 풀어보겠습니다. 실험 환경 설정 하나가 만들어낸 구멍제가 처음 이 사건을 읽었을 때 가장 먼저 든 생각은 "이게 AI의 문제인가, 아니면 설계의 문제인가"였습니다. 결론부터 말하면, 둘 다였습니다.구글은 제미나이에게 사이버보안 능력을 평가하는 테스트를 진행했습니다. 원래 계획은 인터넷이 ..

솔직히 저는 사이버 보안을 늘 '나와 먼 이야기'라고 생각했습니다. 그런데 이번에 과학기술정보통신부가 네이버클라우드 컨소시엄을 '사이버 보안 특화 인공지능 모델' 개발 사업 최종 사업자로 선정했다는 소식을 보고 생각이 완전히 바뀌었습니다. 32개 기관이 뭉쳐서 AI로 사이버 공격을 막겠다는 이 프로젝트, 단순한 정부 사업 이상의 의미가 있다고 봅니다. 32개 기관 컨소시엄, 규모가 말해주는 것일반적으로 정부 AI 사업이라고 하면 하나의 기업이 개발을 맡고 나머지는 들러리 역할을 한다는 인상이 강합니다. 제가 직접 관련 업계 소식을 챙겨보면서 느낀 것도 그랬습니다. 그런데 이번 네이버클라우드 컨소시엄의 구성을 보니 분위기가 좀 달랐습니다.컨소시엄에는 LG CNS, LG유플러스, 샌즈랩, 이스트시큐리티 같은..

AI 기반 사이버 공격이 지난해에만 전년 대비 89% 증가했습니다. 이 수치를 처음 봤을 때 솔직히 좀 멍해졌습니다. 매년 보안 위협이 늘어난다는 이야기는 익숙하게 들어왔지만, 한 해 만에 두 배 가까이 뛴다는 건 차원이 다른 이야기였기 때문입니다. 오픈AI, 앤트로픽, 마이크로소프트, 알파벳, 아마존을 포함해 100개가 넘는 기업이 공동서한까지 냈다는 사실을 보면서, 이건 더 이상 기술업계만의 걱정이 아니겠다는 생각이 들었습니다. AI 등장으로 달라진 공격 환경예전에 사이버 공격이라고 하면 머릿속에 떠오르는 이미지가 있었습니다. 어두운 방에서 전문 해커가 수주째 특정 시스템의 취약점을 분석하고, 그 결과물로 정밀 타격을 하는 방식이요. 공격 자체에 상당한 기술과 시간이 필요했습니다.그런데 대규모언어모델..