[조례 돋보기] 서울시, 'AI 윤리 5대 원칙' 조례화…2026년부터 전 행정에 적용

서울특별시가 인공지능 윤리 기준을 조례로 제정했다. 지자체 차원에서 AI 윤리 원칙을 조례화한 것은 주목된다. AI가 행정 전반에 스며드는 시대, 시민이 신뢰할 수 있는 기준을 먼저 세우겠다는 선언이다.

서울시의회 AI 경쟁력 강화 특별위원회가 발의한 '서울특별시 인공지능윤리 기반 조성에 관한 조례'는 공공성, 공정성, 투명성, 책임성, 안전성이라는 5대 원칙을 핵심으로 삼는다. 2026년 1월부터 서울시 전 행정 분야에 AI 윤리 지침이 적용된다. 선언에 그치지 않고 구체적 시행 시점을 못 박았다.

왜 지금인가. 서울시는 이미 교통, 복지, 안전 등 다양한 행정 영역에서 AI를 활용하고 있다. 불법 주정차 단속에 AI 카메라가 투입되고, 복지 사각지대 발굴에 빅데이터 분석이 쓰인다. 그런데 이 과정에서 알고리즘의 편향성, 개인정보 침해, 의사결정의 불투명성에 대한 우려가 꾸준히 제기돼왔다. 기술 도입 속도에 비해 윤리적 가이드라인은 뒤처져 있었다.

서울시 산하 기관까지 포함하면 AI를 활용하는 공공 서비스는 수십 건에 이른다. 조례 적용 범위가 넓은 만큼 파급력도 상당하다. 전국 지자체의 AI 윤리 논의에 기준점을 제시하는 효과가 있을 수 있다.

5대 원칙은 각각 구체적 함의를 담고 있다. 공공성은 AI가 시민 전체의 이익에 부합해야 한다는 것, 공정성은 특정 집단에 대한 차별을 방지하라는 뜻이다. 투명성은 AI 의사결정 과정을 시민에게 설명할 수 있어야 한다는 원칙이고, 책임성은 AI 활용 결과에 대해 행정이 책임을 져야 한다는 의미다. 안전성은 기술적 오류와 보안 위협으로부터 시민을 보호하라는 요구를 담았다.

EU는 2024년 AI법(AI Act)을 확정했고, 일본 도쿄도는 공공 AI 활용 가이드라인을 운영 중이다. 국내에서는 과학기술정보통신부가 국가 AI 윤리 기준을 발표했으나 법적 구속력이 없다. 광역지자체 가운데 경기도가 AI 산업 육성 조례를 두고 있지만 윤리 원칙을 전면에 내세운 전용 조례는 서울이 선도적으로 추진한 사례다.

과제도 적지 않다. 원칙이 있어도 이를 구현할 기술적 역량과 인력이 뒷받침돼야 한다. AI 알고리즘의 편향성을 검증할 전문 인력이 행정 조직 안에 충분한지 의문이다. 윤리 지침 위반 시 제재 수단이 명확하지 않다는 점도 보완이 필요하다. 조례가 형식적 선언에 머물 수 있다는 우려를 불식시키려면 실행 체계가 단단해야 한다.

지방자치TV는 AI 윤리가 기술 문제가 아니라 거버넌스 문제라는 시각을 견지한다. 서울시가 원칙을 세운 것은 출발이다. 시민이 체감할 수 있는 변화, 이를테면 AI 의사결정에 대한 이의 제기 절차나 알고리즘 공개 등이 뒤따라야 진정한 신뢰가 형성된다.