이수영 OCU 연구교수, “예측만 잘하는 AI는 반쪽짜리…AI 생애주기 전반의 책임 체계 세워 피해자 권리 보장해야”
이수영 한국열린사이버대학교 스마트AI경영학과 연구교수
인공지능(AI)과 디지털트윈 등 첨단 기술을 활용한 재난 예측 체계가 급격히 도입되고 있지만, 기술적 정확성이 곧바로 피해자의 권리 보호로 이어지지는 않는다는 지적이 제기됐다. AI 재난관리의 성과 기준을 단순한 ‘예측 성능’에서 ‘피해자의 권리 보장’으로 전면 전환해야 한다는 제언이다.
이수영 한국열린사이버대학교 스마트AI경영학과 연구교수는 오는 10월 23일(금) 서울 종로구 ‘별들의 집’에서 열리는 ‘제3회 재난피해자권리센터 신진연구자포럼’에 발표자로 나선다. 이 교수는 제2세션에서 ‘재난을 예측하는 AI에서 권리를 보장하는 AI로: 과학기술혁신과 법·제도, 재난피해자 중심 거버넌스의 재설계’를 주제로 AI 시대 재난대응체계의 법·제도적 과제를 발표할 예정이다.
재난피해자권리센터 ‘우리함께’, 10·29 이태원참사 유가족협의회 및 시민대책회의가 공동 주최하고 사회복지공동모금회가 지원하는 이번 포럼은 ‘변화하는 재난, 새로운 사회적 대응: 기억·AI·기후재난을 둘러싼 쟁점과 과제’를 주제로 개최된다.
◼ “정확하게 예측한다고 피해자 권리가
저절로 보장되진 않아”
이수영 연구교수는 AI 및 첨단기술 중심 재난대응의 한계를 정면으로 지적했다. 이 교수는 “AI 기반 재난관리의 성과를 평가할 때 ‘AI가 재난을 얼마나 정확하게 예측했는가’라는 질문만으로는 결코 충분하지 않다”며 “AI와 디지털트윈이 재난의 사전 위험을 탐지하고 대응 속도를 높이는 데 새로운 가능성을 열어준 것은 사실이지만, 기술이 존재한다는 사실만으로 피해자의 권리가 저절로 보장되는 것은 아니다”라고 강조했다.
이어 “재난 정보가 피해자에게 적시에 전달되는지, 장애 유형 등 다양한 재난피해자가 이해할 수 있는 형태의 정보로 제공되는지, 대피와 자원 배분 등 AI 기반 의사결정에 당사자의 목소리가 반영되는지 살펴봐야 한다”며 “기술적 오류나 잘못된 판단으로 피해가 발생했을 때 책임 소재를 명확히 하고 실질적인 구제를 받을 수 있는 제도적 조건이 반드시 수반되어야 한다”고 피력했다.
◼ AI 생애주기 6단계 책임 배분과
‘입증책임 전환·완화’ 촉구
이 교수는 AI가 독립적인 법인격이 아니라는 점을 분명히 하며, ▲기획·설계 ▲데이터 구축·개발 ▲조달·도입 ▲운영·의사결정 ▲사고 대응·사후 평가 ▲변경·폐기에 이르는 AI 생애주기 6단계에 걸친 명확한 책임 배분 체계 구축을 대안으로 제시한다.
아울러 피해 구제의 최대 걸림돌인 ‘입증 부담’ 문제를 집중 조명했다. 이 교수는 “AI 시스템의 동작 과정과 정보가 정부 및 개발사에 전적으로 집중되어 있어, 피해자가 AI 판단과 피해 사이의 인과관계를 입증하는 것은 현실적으로 불가능에 가깝다”며 “피해자의 관련 기록 접근권을 보장함과 동시에, 정보 편재와 증명 곤란 정도를 고려해 입증책임을 전환하거나 완화하는 법제 개선이 이루어져야 한다”고 촉구했다.
◼ 인공지능기본법 제31조 투명성 의무 검토
및 ‘삶의 회복’ 중심 거버넌스 설계
과학기술혁신(STI), AI 거버넌스, 기술정책 분야를 아우르며 연구 활동을 이어온 이 교수는 이번 발표에서 인공지능기본법 제31조에 명시된 투명성 확보 의무의 적용 가능성을 다각도로 검토할 예정이다. 또한 재난관리의 범주를 단순한 시설 복구를 넘어 재난 이후 피해자의 ‘삶의 회복’까지 확장해야 한다고 역설한다. 행정기관, 기술 개발자, 재난대응 주체 간의 책임 관계를 정밀하게 정립하고, 재난피해자의 실질적인 참여와 이의제기권을 보장하는 거버넌스 체계를 구축해야 한다는 지적이다.
발표에 이어 진행되는 장여경 정보인권연구소 상임이사와의 대담에서는 기술 중심 재난대응이 놓치기 쉬운 인권과 시민의 관점을 심도 있게 짚어보고, 재난피해자의 실질적인 권리 보장을 위한 사회적 과제를 지속 모색할 계획이다.
이번 포럼은 재난을 단순한 예방·수습의 대상으로만 바라보던 기존 관점에서 벗어나, 재난의 전 과정에서 피해자의 존엄과 권리를 보장하기 위한 정책적 대안을 제시하는 중요한 자리가 될 것으로 기대된다.
유순희 기자
