국방 해커톤 D4D가 남긴 과제 검증 안된 AI, 전력 아닌 위험... ‘TEVV’를 K-RMF에 얹어야 [보안뉴스= 안상현 육군 수도방위사령부 정보체계과장] 새벽, 서울 한복판의 한 공간이 빌더들로 가득 찼다. 150여 명이 밤을 지새우며 이틀 만에 47개의 국방·안보 솔루션을 쏟아냈다. 한 팀의 화면에서는 신호를 끈 ‘다크 베슬’이 서해의 해저 케이블을 향해 붉게 깜빡였고, 옆 테이블에서는 논밭과 하천을 가로질러 지도에 없는 보급로를 실시간으로 그리는 알고리즘이 돌아갔다. ▲국방 해커톤 ‘D4D’ 현장 [출처: 안상현 과장 제공] 화이트보드엔 우크라이나 전선의 교훈이 적혀 있었다. “예측되는 길은, 죽는다.” 또 다른 팀은 탄도미사일과 요격 포대를 디지털 트윈으로 세워 적과 아군의 수를 번갈아 두었고, 누군가는 딥페이크가 여론을 흔드는 ‘인지전’을 방어하는 훈련 루프를 짰다. 행사장 벽에는 특전 교육대의 오래된 문구가 걸려 있었다. “이곳을 거친 자여, 조국은 그대를 믿노라.” 심사위원석의 나는 그 문장을 보며, 하루 종일 삼켜온 질문을 다시 떠올렸다. 우리는 이 빠르고 영리한 판단들을, 정말로 믿을 수 있는가. 이것은 결국, 국방에 밀려드는 AI를 우리가 무엇으로 신뢰할 것인가의 문제다. 지난 주말 열린 국방 해커톤 ‘D4D’(Deploy for Defense)에서 심사를 맡았다 모바일손오공릴게임 . 가장 인상적이었던 것은 참가자들의 속도였다. 현역 군인과 개발자, 디자이너, 창업가가 한 테이블에 앉아 이틀 만에 지휘통제, 자율드론, 해상영역 인식, 방산 공급망의 시제품을 만들어냈다. 오랫동안 ‘닫힌 분야’로 여겨졌던 국방이 민간의 상상력에 문을 여는 장면은 반갑고, 또 필요한 변화였다. 그런데 심사 내내 머릿속을 떠나지 않은 질문이 있었다. 우리는 지금 국방 AI를 이야기할 때 ‘얼마나 빠르고 창의적인가’에는 열광하면서, 정작 ‘얼마나 믿을 수 있는가’는 좀처럼 함께 묻지 않는다. 이 해커톤만의 이야기가 아니다. AI를 국방에 들이는 우리 사회 전체가 그렇다. 흥미로운 건, 그 질문을 이미 스스로 붙잡은 팀이 여럿 있었다는 .이다. 해상 감시 콘솔을 만든 팀은 정보의 출처마다 신뢰 가중치를 달리 두었다. 하나의 출처에서 나온 세 개의 정황보다, 서로 독립된 세 개의 센서가 동시에 가리키는 하나의 표적을 더 믿도록 설계한 것이다. 또 다른 팀은 텔레그램에 올라온 ‘타격 주장’을 확인·가능성·미확인·허위로 판정하고, 그 근거와 신뢰도를 함께 제시하는 엔진을 만들었다. 다크웹 정보를 다룬 팀은 아예 심사위원 앞에서 이렇게 말했다. 모바일 온라인야마토주소 자신들의 데이터 출처조차 조작될 수 있으니, 신뢰도는 원천 자료가 아니라 스스로의 교차검증에서 나온다고. 그리고 한마디를 남겼다. “정보에서는, 절제가 곧 제품이다.” 빌더들은 이미 알고 있었다. 국방에서 정보의 가치는 ‘얼마나 많이 모았는가’가 아니라 ‘얼마나 믿을 수 있는가’에서 나온다는 것을. 검증은 위에서 요구하기도 전에, 현장이 먼저 붙잡고 있었다. 그런데 이런 깊이는 드러나기 어렵다. 단 몇 분의 발표로 성패가 갈리는 자리에서는(어느 해커톤이든, 어느 피칭이든 마찬가지다) 신뢰성이나 규제 적합성 같은 층위가 화려한 시연에 밀려 뒤로 처지기 쉽다. 실제로 정교한 검증 논리를 세운 팀일수록, 짧은 시간 안에 그것을 증명하기가 더 어려웠다. 좋은 검증을 설계한 팀이 오히려 손해를 보는 역설이다. 이것이 국방에서 특히 치명적인 이유가 있다. 민간 서비스의 버그는 잠깐의 장애로 끝나지만, 전장에서 AI의 오판은 되돌릴 수 없는 피해로 이어진다. 정전이나 서비스 중단이 아니라, 사람의 생명과 작전의 성패가 걸린다. 그래서 ‘좋은 문제를 공개하고, 좋은 팀이 모여, 실증과 투자로 이어지는 선순환’이라는 이상적인 그림에는 한 조각이 빠져 있다. 그 파이프라인의 한가운데 있어야 할 신뢰성 검증, 즉 시험·평가·확인·검증(TEVV)이다. 오해는 말자. 속도와 신뢰성은 대립하지 않는다. 모바일 바다이야기다운로드 압축된 AI가 야전의 저사양 장비에서도 견고한지, 폐쇄망에 배치된 모델의 무결성이 지켜지는지, 적대적 공격에 얼마나 버티는지, 그리고 마지막 결심에 ‘의미 있는 인간의 통제’가 살아 있는지. 이 검증을 통과한 속도만이 비로소 ‘전력’이 된다. 검증받지 않은 속도는 전력이 아니라 위험이다. 해법은 규제가 아니라 구현(operationalize)의 문제다. 신뢰성 검증이 중요하다는 원칙에는 누구나 고개를 끄덕인다. 정작 막히는 지.은 ‘그래서 그걸 실제로 어떻게 돌리느냐’다. 다행히 우리에게는 맨땅에서 시작할 이유가 없다. 군은 이미 K-RMF라는, 체계의 위험을 식별하고 통제하는 검증 틀을 운용하고 있다. AI 시대의 신뢰성 검증은 이 위에 한 겹을 얹는 일이다. 이미 돌아가는 레일 위에 새 칸을 붙이는 것이지, 새 철도를 까는 일이 아니다. 혁신을 겨루는 평가 기준에 신뢰성 항목을 한 축으로 세우고, 실증(PoC) 단계에서 K-RMF와 AI RMF를 결합한 신뢰성 파이프라인을 하나의 관문으로 통과시키면 된다. 그러면 검증은 사후에 얹는 규제가 아니라, 처음부터 내장된 기본값이 된다. 저마다 제각각 검증한다면 그 결과는 서로 비교할 수도, 연동할 수도 없다. 공통의 검증 기반이 곧 상호운용성이고, 그것이 생태계를 진짜로 키운다. 무엇보다 이것은 현장이 이미 원하던 방향이다. 참가자들은 ‘실증과 투자로 이어지는 선순환’을 이야기했고, ‘탐지를 넘어 누가 먼저 움직여야 하는가’를 고민했다. 그것이 생태계를 진