AI의 해석이 공적 판단이 될 때 | 서울특별시의회 2026

RRI 공적 학술기록 · 2026년 11월 6일 · 2026년 11월 7일 제1판

이 문서는 서울특별시의회 정책토론회를 계기로 제시된 연구 논증과 정책적 제안을 RRI가 독립적으로 정리한 기록이다. 행사 개최 사실, 제출된 발제문의 내용, 연구소의 제안, 추가 증빙이 필요한 사후 결과를 구분한다. 서울특별시의회의 공식 회의록이나 공동 의결문은 아니다.

공식 행사명: AI 감정해석과 시민권리 보호를 위한 정책적 과제 토론회 일시: 2026년 11월 6일, 오후 3시~5시 장소: 서울특별시의회 제1대회의실

주최: 서울특별시의회 주관: 김길영 서울특별시의원실 · 광운대학교 인간–AI 거버넌스 연구소 학술 협력: Ryan Research Institute(RRI), Paris 언론 협력: 보건의료신문

서울특별시의회 공식 행사·의정사진 기록 · 연구 · From Interpretive Authority to Public AI Accountability | Seoul 2026

기계의 추론은 언제 공적 판단이 되는가

인공지능이 사람의 감정을 추정한다는 것과 그 추정을 근거로 사람을 분류하거나 지원의 우선순위를 정한다는 것은 다른 일이다. 앞의 문제는 관측과 추론의 타당성을 묻지만, 뒤의 문제는 제도가 어떤 판단을 정당한 것으로 받아들이는지 묻는다.

행정기관이 AI의 해석을 기록에 남기고, 상담이나 복지서비스의 경로를 결정하고, 나중의 판단에서도 그 결과를 재사용한다면 추론은 더 이상 하나의 참고 의견에 머물지 않는다. 인간을 해석하는 기술에 사실상의 판단 권한이 부여되는 순간이다.

RRI는 이 문턱을 해석–결정 결합의 문제로 다룬다. 정확도가 높다는 이유만으로 해석의 권한까지 자동으로 넘길 수는 없다. 누가 그 판단을 채택했는지, 당사자의 설명은 어떤 무게를 갖는지, 잘못된 기록은 실제로 어디까지 수정되는지를 물어야 한다.

기조발제와 연구적 맥락

김상백 · RRI 설립자·책임연구자 / 광운대학교 연구교수

기조발제 제목: 「AI 감정해석과 해석 권한의 이동」 부제: 「기계의 추론은 언제 공적 판단의 권위가 되는가」

제출된 기조발제문은 감정주권(Affective Sovereignty), 서사–정서 괴리의 측정, 인간–AI 상호작용의 공명 증폭, 외부 감정 해석에 대한 의존이라는 연구 축을 공공 AI의 책임 문제와 연결한다.

예컨대 어떤 사람이 '괜찮습니다'라고 말했을 때, 낮은 정서 표현이 실제 감정의 부재를 뜻한다고 단정할 수도 없고, AI가 읽어낸 다른 신호가 곧 본인의 진실이라고 주장할 수도 없다. 사람은 때로 말을 아끼고, 모순된 마음을 품고, 충분한 설명 없이 견딘다. 인간의 언어 표현을 측정하는 연구와 특정 시민의 정신상태를 판정하는 행정 도구 사이에는 여전히 검증해야 할 간극이 있다.

RRI의 351,734개 영어 관계 서사 연구는 그러한 표현의 다양성을 분석하는 근거다. 이것이 서울 시민의 심리상태를 개별적으로 진단할 수 있다는 뜻은 아니다.

핵심은 추론의 가능성을 부정하는 데 있지 않다. 추론이 사람에 대한 공적 판단으로 채택될 때, 그 사람에게 설명할 자리와 바로잡을 방법을 남겨두어야 한다는 것이다.

Mental AI: 인간의 마음을 해석한 결과가 다시 인간에게 작용할 때

Mental AI는 RRI가 발전시키고 있는 연구 개념이자 연구 프로그램이다. AI가 감정과 정신상태를 어떻게 추론하는지만 살피지 않는다. AI의 설명과 분류가 인간의 자기이해, 선택, 관계, 이후 행동에 되돌아와 영향을 미치는 과정까지 연구한다.

연구가 다루는 질문은 크게 세 방향으로 이어진다. 인간의 마음을 해석하는 것처럼 보이는 AI에 어떤 능력을 귀속할 수 있는가. 사람은 기계가 제공한 감정의 이름과 판단을 자신의 경험에 어떻게 받아들이는가. 그리고 그 상호작용이 반복될수록, AI가 다음에 해석할 인간의 반응 자체가 달라지는가.

이 개념은 정신의학의 새로운 진단명도, 서울시 행정에 신설된 기술 분류도 아니다. AI가 인간처럼 마음을 갖고 있다는 주장 또한 아니다. 이론적 제안과 실증적으로 확인된 효과를 분리해 검토해야 하는 진행 중 연구다.

관련 공개 프리프린트: 배치 후 평가 기준의 내생성

RRI가 제안한 여섯 가지 운영 기준

기조발제에서는 인간에 관한 AI의 추론을 실제 제도적 판단에 사용할 때 점검해야 할 여섯 영역을 제시했다. 아래 내용은 연구소가 공개용으로 정리한 요지이며, 현장 발표문의 최종 문구와 대조해 이후 판본에서 보완할 수 있다.

사용 사실과 목적의 고지. AI의 추론이 사용됐는지, 어디에 쓰였는지, 어떤 기관이 그 결과를 채택했는지를 당사자가 알 수 있어야 한다.
불확실성과 다른 해석의 인정. 모델의 추정값을 확정된 사실처럼 쓰지 않고, 자료의 한계와 맥락에 따른 다른 설명을 검토해야 한다.
근거가 부족할 때의 판단 유보. 복지, 상담, 정신건강 등 개인에게 중대한 결과를 가져올 수 있는 상황에서는 취약한 추론을 사용하지 않거나 그 용도를 제한해야 한다.
당사자의 이의제기. 시민은 자신의 상황을 설명하고 AI 해석에 이의를 제기할 수 있어야 하며, 그 절차가 사실상 불이익이나 형식적인 접수에 머물러서는 안 된다.
실효적인 정정과 후속 반영. 오류를 인정하는 것으로 끝내지 않고, 그 결과를 활용한 기록과 추천, 이후의 결정까지 실제로 고쳐졌는지 확인해야 한다.
인간의 실질적 재검토와 책임. 중대한 판단의 책임자를 분명히 하고, 필요한 전문성을 갖춘 인간의 독립적 검토와 사후 추적이 가능해야 한다.

이 여섯 기준은 RRI가 제안한 운영 원칙이다. 서울특별시의회가 채택한 조례나 서울시의 확정된 행정규칙으로 표시하지 않는다.

서울시 기존 AI 윤리지침과의 관계

서울시는 이미 2026년 1월부터 공공성·공정성·투명성·책임성·안전성의 5대 AI 윤리원칙을 적용하고 있다. RRI의 제안은 이를 대체하는 별도의 공식 '서울형 6대 원칙'이 아니다.

RRI가 제기하는 질문은 이 가치들을 공공서비스 현장에서 어떻게 확인할 것인가에 있다. 시민이 설명을 요구했을 때 누가 답하는가. 잘못된 추론이 정정되면 어느 기록까지 바뀌는가. 담당자의 검토가 실제로 새로운 판단이 될 수 있는가. 선언된 윤리원칙과 운영 가능한 절차 사이에 놓인 과제들이다.

서울특별시: 인공지능 활용 윤리 지침

정책 후속 검토를 위한 세 단계

첫째, AI 기능을 구체적으로 파악한다. 공공기관에서 어떤 시스템이 시민의 상태를 추정하고, 민원을 분류하고, 지원의 우선순위나 행정 기록에 영향을 미치는지부터 목록으로 확인한다. 단순 보조 기능과 실제 결정에 관여하는 기능을 구분하는 일이 출발점이다.

둘째, 성격이 다른 공공서비스 2~3개를 선정해 점검한다. 모델의 성능만이 아니라 설명 가능성, 이의제기 절차, 인간의 재검토, 정정의 후속 전파가 실제로 작동하는지를 제한된 범위에서 확인하는 방안이다.

셋째, 검증 결과의 제도적 반영을 검토한다. 필요한 경우 조달 기준, 예산심사, 성과평가, 현장 운영기준에 어떤 조건을 넣어야 하는지 관계기관이 검토할 수 있다.

이 세 단계는 후속 정책 논의를 위한 연구 제안이다. 시범사업이 발주됐거나, 제안이 법제화됐거나, 특정 서울시 AI 사업의 위법성이 입증됐다는 의미는 아니다.

국내 토론과 국제 학술 기고

국내 전문가 토론의 공식 좌장은 박태훈 광운대학교 교수다. 주요 논의 범위는 공공행정의 책임, AI 평가의 타당성, 복지와 정신건강 서비스의 안전, 이의제기 이후 실제 정정의 가능성으로 구성됐다.

최종 현장 토론의 개별 발언 내용과 실제 참석 여부는 공식 녹음, 확정된 기록 또는 당사자의 승인된 요약이 확보되면 추가할 예정이다. 사전 프로그램에 실렸다는 사실만으로 특정 참석자가 해당 의견을 실제 발언했다고 기록하지 않는다.

국제 연구자들은 서면 기고를 통해 서로 다른 관점을 제공했다. 의회 인쇄용 자료집의 수록 범위는 6건·저자 7명이며, 공동집필 글 1건이 포함된다. 기술적 해석이 규범적 권위를 얻는 과정, 감정 명명의 영향, 사과와 정정 이후 AI 반응의 변화, 심리적 자율성을 지지하는 대화, 아동의 발달·문화적 취약성이 주요 주제였다.

인쇄 마감 뒤 추가된 기고까지 포함해 8건·9명으로 집계한 확대 보고도 있다. 다만 추가 원고 두 건의 저자·실제 발표 반영·온라인 공개 허락을 개별 자료와 대조한 뒤 최종 명단을 확정해야 한다. 서면 기고는 서울 현장 참석이나 소속 대학의 기관 차원 후원, RRI 정책 제안에 대한 공동 서명을 의미하지 않는다.

공식 기록과 자료 공개

서울특별시의회 공식 기록: 2026년 11월 6일 해당 정책토론회가 의정사진 목록에 등록되어 있다. 공식 홈페이지에서 확인.
기조발제문과 발표자료: RRI 내부 아카이브에 보존한다. 실제 사용본의 최종 확인과 공개 범위를 검토한 뒤 연결한다.
국제 기고문: 자료집 인쇄 허락과 홈페이지 원문 공개 허락은 다르다. 저자별 허락 범위를 확인하지 않은 글의 전문을 게시하지 않는다.
사진·영상: 현재는 의회 공식 게시물로 연결한다. 원본 파일의 재게시·편집 이용 조건과 개별 영구 링크를 확인한 뒤, 적절한 출처를 표시해 보강한다.

기록의 지위와 인용

발행: Ryan Research Institute, Paris 기록 성격: 서울특별시의회 정책토론회에 관한 RRI의 독립 학술기록 및 연구·정책 제안 판본: 2026년 11월 7일, 제1판

인용 권장 형식: Ryan Research Institute. (2026). 「AI의 해석이 공적 판단이 될 때: 2026년 11월 6일 서울특별시의회 정책토론회 학술기록」. 제1판. RRI, Paris.

이 문서의 학술적 해석과 정책 제안은 RRI의 것이다. 서울특별시의회 공식 회의록이나 참석자 전원의 합의문이 아니며, 서울시의 정책 채택을 의미하지 않는다. 행사 기록과 저작물 이용 허락이 추가 확인될 경우 변경 날짜와 근거를 남겨 수정한다.

학술·기관 문의: ryan@ryanresearch.org.