최종편집:2024-03-28 23:03 (목)
실시간
인간을 구하는 ‘AI’

인간을 구하는 ‘AI’

  • 기자명 박설민 기자
  • 입력 2022.08.04 18:40
  • 0
  • 본문 글씨 키우기
이 기사를 공유합니다

충무대교 투신사건 AI가 위험 감지해 구조 요청
사람의 마음 읽어 사전에 위험 징후 감지 사례도

인간의 생명을 위협하고 일자리를 빼앗을 것처럼 여겨지는 AI가 사람의 소중한 생명을 구하는 데 없어선 안 될 중요한 수단으로 인식되기 시작했다./ 그래픽=박설민 기자
인공지능(AI)으로 사람의 생명을 구할 수 있을까. 최근 국내에 이 같은 사례가 알려져 화제가 되고 있다. 잘못 개발하면 인간의 생명을 위협하고 일자리를 빼앗을 것처럼 여겨지는 AI가 사람의 소중한 생명을 구하는 데 없어선 안 될 중요한 수단으로 인식되기 시작했다.
경남 통영시의 충무대교와 통영대교에 적용된 AI 자살 방지 시스템의 구동 모습./ 사진제공=통영시

◇투신 막은 AI, 극단적 선택 징후 파악 후 구조 요청

AI를 활용해 인간의 생명을 구하는 대표적인 방법은 ‘자살’을 예방하는 것이다. 한강 다리나 건물 옥상이나 지하철역, 다리 난간 등 이른바 ‘자살명소’에서 폐쇄회로 TV 등을 이용, 자살 시도자들의 극단적 선택 징후를 AI로 파악하고 이들이 행동으로 옮기기 전 경찰 등에 자동으로 연락해 이를 차단하는 방식이다.

실제로 3일 경남 통영시에서 AI 시스템이 한 여성의 생명을 구하기도 했다. 1일 자정 무렵, 40대 여성 A씨는 충무대교를 한차례 배회 후 현장을 떠났다가 20여 분 후 다시 돌아와 투신을 시도했다. 하지만 AI가 극단적 선택 위험 징후를 감지했고, 자동 신고를 받은 경찰이 현장에서 A씨를 구할 수 있었다. 모두가 잠든 야심한 밤에 벌어진 사건이기에 AI가 아니었다면 경찰은 A씨를 구할 수 없었을 것이다.

A씨를 구한 AI는 딥러닝 기술 기반으로 만들어진 ‘AI 자살예방시스템’이다. 스마트시티 통합플랫폼 구축 특화사업의 하나로 지난해 4월부터 충무대교·통영대교에서 자살예방시스템을 운영중에 있다.

통영시 관계자에 따르면 이 AI 시스템은 자살 시도자들의 특정 행동 몇 가지를 화상해석 프로그램을 통해 자체적으로 판단한다. CCTV를 통해 보이는 사람이 약 정해진 시간 이상 다리 난간 가까이서 오랫동안 서성이거나, 자살자들에게만 보이는 특정 행동을 일정시간 이상 취해게 될 경우 이를 자살 징후로 판단해 주변의 경찰서나 소방서에 구조 요청을 보내게 된다. 해당 시스템을 도입한 이후 약 1년 5개월간 극단적 선택의 위험 경보로 감지한 것만 70여 건에 이른다.

최근에는 AI의 CCTV 영상 분석 속도 및 정확성 향상을 위해 컴퓨터가 스스로 데이터를 학습하고 분석하는(딥러닝) 기능을 갖춘 ‘텐서플로(TensorFlow) 모델 버전’을 확장 적용했다. 텐서플로는 딥러닝 프로그램을 쉽게 구현할 수 있도록 구글에서 공개한 프로그램이다. 이를 통해 분석 시간을 단축해 더욱 정확하게 위험 징후를 포착할 수 있게 됐다

통영시 관계자는 본지와의 통화에서 “처음 AI 자살 방지 시스템을 도입했을 때는 다리에서 사진을 촬영하거나 야간 주취자 등에 대해 오탐률이 높게 나타났다”며 “지금은 많은 데이터가 쌓이면서 오탐률이 30% 정도에서 약 5~10% 정도로 크게 줄었다”고 했다.

◇소셜미디어로 사람 마음 읽어, 극단적 선택 사전에 감지

통영시의 사례는 인간의 행동 패턴을 분석하고 다음 행동을 예측하는 기술이다. 아예 사람의 마음을 읽어 사전에 극단적 선택 위험성을 낮추는 기술도 있다. 자살을 선택하는 사람들은 평소 그 신호를 주변인에게 알리는데, 주변인은 이를 이해하지 못하는 경우가 많다. 이때 AI가 이런 신호를 조기에 분석해 극단적 선택을 주위에 알리는 등 조처하는 것이다. 

한국전자통신연구원(ETRI)이 2020년이 발표한 ‘정신건강을 위한 인공지능 활용과 유망 서비스’ 보고서에서 “개인 또는 정신장애 위험군 이용자들의 평소 생활 습관, 사용언어 및 표정 등을 센서를 통해 모니터링하고 기록, 분석해 위험신호를 본인과 주변인들에게 알려주는 서비스가 자살을 예방하는데 특히 효과적일 것으로 기대된다”고 평가한 바 있다. 평소 소셜미디어 서비스, 문자 메시지 등에 쓴 글의 패턴을 AI가 분석한 후 그 사람의 감정을 파악해 우울증 심화 등의 자살 징후를 포착하는 경우 등이다.

글로벌 소셜미디어 플랫폼인 ‘페이스북’은 지난 2017년부터 AI를 활용한 자살 예방 프로그램을 전 세계에 실제로 서비스 중이다. 해당 서비스는 AI가 게시물, 동영상, 페이스북 라이브 등을 실시간으로 점검하는 방식으로 운영된다. 극단적 선택의 징후가 의심되는 게시물 등이 포착되면 AI는 주변 사람들에게 알리거나 페이스북 담당자에게 이를 전달한다.

소셜미디어 게시글을 통해 AI가 극단적 선택을 미리 탐지해 생명을 구한 사례도 있다. 지난 2019년 2월 중국 난징에 거주하는 한 대학생은 “더 이상 계속할 수 없다. 포기하겠다.”는 메시지를 중국 소셜미디오 웨이보에 올린 후 극단적 선택을 시도했다. 이때 약 8000km 떨어진 네덜란드 암스테르담의 AI가 이를 감지하고 근처 중국 현지 자원봉사자들에게 알렸고, 해당 학생은 신고를 받은 경찰의 구조를 받아 목숨을 구할 수 있었다.

이 사건에서 학생의 목숨을 구한 AI의 이름은 ‘트리홀(Tree hole) 시스템’. 지난 2018년 7월 처음 가동을 시작했다. 네덜란드 암스테르담 자유대학교(VU Amsterdam) 컴퓨터공학과와 베이징 수도의과대학 뇌연구센터 공동 개발한 자살 방지 AI다. 연구팀에 따르면 지난 트리홀 시스템이 작동한 1년 동안 약 1000여 명의 목숨을 구한 것으로 알려졌다.

베이징 수도의과대학 뇌연구센터 샤오민 징 연구원은 ‘국제건강정보과학회의(HIS)’에 2020년 게재한 논문을 통해 “트리홀 데이터를 기반으로 자살시도자들의 소셜미디어 글이 그들의 행동 패턴과 관련이 있음을 발견했다”며 “이를 모니터링하고 구출하기 위해 더 많은 인적, 물적 자원을 배치할 수 있도록 정부와 사회에 제안할 수 있을 것”이라고 평가했다.

저작권자 © THE AI 무단전재 및 재배포 금지
개의 댓글
0 / 400
댓글 정렬
BEST댓글
BEST 댓글 답글과 추천수를 합산하여 자동으로 노출됩니다.
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글수정
댓글 수정은 작성 후 1분내에만 가능합니다.
/ 400
내 댓글 모음
모바일버전