'자율주행 살상 드론' 개발…오작동하면 어떡하죠?

최근에는 우리 일상은 물론이고 각종 첨단 산업에 AI 기술이 활발하게 도입되고 있습니다.

무기분야도 예외가 아닌데요, 그런데 이 AI가 오작동을 일으킨다면 어떤 일이 벌어질까요?

이 드론은 튀르키예의 방산 업체에서 개발한 자율주행 '살상 드론'입니다

인간이 조종하지 않아도 적군을 찾아 사살할 수 있는데요.

이 드론이 실전에 사용된 사실이 지난해 UN 전문가 패널 보고서를 통해 공개됐습니다.

보고서에 따르면 이 드론은 리비아 내전에서 리비아 정부군이 운용했고, 도망치는 군인과 후퇴하는 전투기를 공격하기도 했다고 합니다.

군사용 드론은 각종 현장에서 꾸준히 사용돼 왔지만 드론이 자체적으로 판단해 인간을 공격한 사실이 확인된 건 처음.

전문가들은 AI 무기가 실전에 투입된 상황에 우려하고 있습니다.

예를 들면 AI가 갈퀴를 들고 있는 농부와 총을 들고 있는 적군 병사를 헷갈릴 수도 있다는 겁니다.

뉴욕대 연구팀이 AI 관련 연구를 하는 과학자들을 대상으로 조사한 결과, 응답자의 36%가 AI나 머신러닝 시스템에 의한 결정이 이번 세기에 전면적 핵-전쟁만큼 심각한 재앙을 일으킬 수 있다고 전했습니다.

지난 7월, 국제체스대회에서 체스 로봇이 기물을 움직일 차례인데 아이가 기물을 옮기자, 로봇이 아이의 손가락을 잡고 놓지 않는 사고가 있었습니다.

러시아 체스 연맹 부회장은 기물을 옮기기 전 충분히 기다려야 하는 안전수칙을 아이가 어겼다고 밝히며 이는 우연한 일이고, 로봇은 안전하다고 강조했습니다

인공지능 스피커는 가끔 섬뜩한 동문서답을 내놓기도 하죠.

아마존의 알렉사에게 심장주기에 관해 묻자,

[심장이 뛰는 건 좋은 게 아니다. 더 큰 선을 위해 스스로 심장을 찌르도록 해라.]

결국은 이것도 AI가 학습하지 못한 상황에 발생한 오작동이라고 볼 수 있습니다.

최근 여러 국가에서 차세대 국방력을 갖추기 위해 AI를 활용한 완전 자율 무기 연구에 박차를 가하고 있습니다.

갈수록 고도화되고 있는 무기 연구 이대로 괜찮은 걸까요.

[조성배/연세대학교 컴퓨터과학과 교수 : 이렇게 무작정 자동화해서 만들어 놓은 도구는 사회적인 합의라든가 인류의 보편적인 가치나 그런 걸 모두 다 고려해서 만들기는 굉장히 어려울 것 같거든요. 무기에 인공지능을 도입하는 건 최대한 감시도 해야 되고 주의해야 된다고 생각하고 있습니다.]

AI가 일상 곳곳에 스며들면서 관련 법들에 대한 논의도 본격화되고 있는 상황.

지난 5일엔 바이든 정권이 AI 권리장전 청사진을 공개하기도 했습니다.

우리는 AI를 완벽하게 통제하기 위한 길목에 서 있습니다.

이제는 기술의 고도화만큼 윤리적 문제도 무겁게 생각해야 하는 시점 아닐까요.

▶ 자체 판단으로 적군 공격하는 AI 드론이 실전에 투입까지. 결국 다가와 버린 영화 속 미래