복지 행정, 왜 AI 도입이 늦었나 - 3가지 구조적 장벽

민간 영역에서는 이미 AI가 상담, 진단, 추천의 영역까지 파고들었습니다. 그런데 유독 복지 행정만큼은 여전히 신청서와 대면 상담, 담당 공무원의 수기 판단에 크게 의존하고 있습니다. 단순히 "공공기관이라 느려서"라는 설명으로는 부족합니다. 이번 글에서는 복지 행정의 AI 도입이 늦어진 이유를, 데이터·책임·재정이라는 세 층위의 구조적 지체로 나누어 짚어보고자 합니다.

 

왜 '기술 부족'이 아니라 '구조 지체'인가

복지 행정에 AI를 도입하자는 논의 자체는 새롭지 않습니다. 2026년 4월 개최된 사회보장 AX(AI Transformation) 미래전략 심포지엄에서도 수혜자 발굴, 위기 예측, 행정 효율화, 정책 지능화 등 AI 활용 방안이 구체적으로 제시된 바 있습니다. 정부 차원의 AI 기본계획 역시 복지·행정·교육 등 공공서비스 전반의 품질 개선을 목표로 내걸고 있습니다.

 

그럼에도 현장에서 체감하는 변화의 속도는 더딥니다. 이는 기술이 부족해서가 아니라, 복지 행정이라는 시스템 자체가 세 가지 서로 다른 층위에서 '지체'를 안고 있기 때문이라고 보는 것이 더 정확한 진단이라고 생각합니다. 첫째는 데이터의 지체, 둘째는 책임의 지체, 셋째는 재정과 조달의 지체입니다. 이 세 가지는 각각 독립적인 장벽이면서, 동시에 서로를 강화하는 방식으로 맞물려 있습니다.

 

첫 번째 장벽: 데이터 지체 - '확인용 데이터'와 '판단용 데이터'의 간극

복지 행정이 데이터가 없어서 AI를 못 쓴다는 말은 절반만 맞는 이야기입니다. 한국의 사회보장정보시스템, 이른바 '행복e음'과 '범정부' 시스템은 45개 기관 598종에 달하는 소득·재산 자료 및 서비스 이력 정보를 연계하고 있으며, 정부의 360개 복지사업을 지원하는 방대한 인프라입니다. 얼핏 보면 이 정도 규모의 데이터라면 AI 학습에 부족함이 없어 보입니다.

 

문제는 이 데이터가 애초에 '자격을 확인'하기 위해 설계되었다는 데 있습니다. 소득인정액을 산정하고, 중복 수급을 걸러내고, 부정 수급을 적발하는 것이 행복e음 구축의 본래 목적이었습니다. 즉 이 시스템은 "이 사람이 기준을 충족하는가"라는 이분법적 질문에 답하도록 최적화되어 있을 뿐, "이 사람에게 어떤 위험이 다가오고 있는가"를 예측하거나, 담당자의 재량적 판단 근거가 되었던 상담 기록·가정 방문 메모·복지 대상자의 맥락 정보 같은 비정형 데이터를 축적하도록 설계되지 않았습니다. 자격 확인용 데이터베이스와 위험 예측용 학습 데이터셋은 겉보기에 비슷해 보여도 본질적으로 다른 물건입니다.

 

여기에 더해, 서로 다른 기관에 흩어진 정보를 AI 학습이나 위기가구 예측 모델에 활용하려면 개인정보보호법 틀 안에서 가명정보 결합 절차를 거쳐야 하는데, 이를 위한 법적 근거와 실무 절차가 아직 충분히 정비되지 않았다는 지적도 계속 제기되고 있습니다. 결과적으로 방대한 데이터가 존재함에도 불구하고, 그 데이터를 지능형 서비스로 전환하는 길목에서 병목이 발생하는 구조입니다. 이는 과거 차세대 사회보장정보시스템 구축 논의에서도 반복적으로 지적된 문제로, 단순한 정보량의 문제가 아니라 데이터 설계 철학 자체를 재구성해야 하는 과제라고 할 수 있습니다.

 

두 번째 장벽: 책임 지체 - 재량행정의 논리와 알고리즘의 논리가 충돌하는 지점

두 번째 장벽은 조금 더 근본적입니다. 복지 행정, 특히 사회복지 전담 공무원의 업무는 상당 부분 재량행정의 영역에 속합니다. 같은 소득 수준이라도 가구의 상황, 건강 상태, 돌봄 부담에 따라 실제 지원 여부와 수준이 달라질 수 있고, 이 재량적 판단이 바로 복지 행정의 존재 이유이기도 합니다.

 

그런데 AI 기반 예측·추천 시스템을 이 재량의 영역에 들여오는 순간, 누가 최종 책임을 지는가라는 질문이 곧바로 뒤따라옵니다. 서울시 등 지방자치단체가 시도하고 있는 복지 사각지대 발굴 시스템처럼 행정 데이터를 결합해 위기가구를 탐지하는 방식은 분명 효과적이지만, 과거 데이터에 내재된 편향을 그대로 학습할 위험을 안고 있습니다. 특정 지역, 특정 가족 형태, 특정 소득 구간을 '저위험'으로 분류하는 순간 바로 그 지점에서 새로운 사각지대가 생길 수 있습니다. 미국 알러게니 카운티의 아동복지 예측모형이 데이터 편향 문제로 논란이 된 사례는 이러한 위험이 결코 가상의 시나리오가 아님을 보여줍니다.

 

더 큰 문제는 결정 과정이 블랙박스로 남을 경우 이의를 제기할 방법이 마땅치 않다는 점입니다. 행정 처분에 대한 이의신청과 행정심판이라는 기존 구제 절차는 사람의 판단을 전제로 설계되어 있어서, 알고리즘의 판단 근거를 어떻게 소명하고 다툴 것인지에 대한 제도적 답이 아직 마련되어 있지 않습니다. 2026년 1월 시행된 AI기본법이 '사회적 포용'을 명시했지만, 복지 서비스를 디지털화할 때 오프라인 대안을 반드시 병행하도록 하는 의무 조항까지는 담고 있지 않다는 지적도 같은 맥락에서 이해할 수 있습니다. 결국 담당 공무원도, 기술 도입을 추진하는 지자체도, "AI가 놓친 사각지대의 책임을 누가 지는가"라는 질문 앞에서 도입을 주저하게 되는 것입니다. 이는 기술 신뢰도의 문제라기보다, 재량행정 체계와 알고리즘 체계 사이에 아직 책임을 분배할 문법이 존재하지 않는다는 구조적 공백에 가깝습니다.

 

세 번째 장벽: 재정·조달 지체 - 단년도 예산과 지자체 간 인프라 격차

세 번째 장벽은 가장 눈에 띄지 않지만 실무적으로는 가장 완고한 장벽입니다. 바로 예산과 조달 구조의 경직성입니다. 정부의 인공지능 기본계획에서도 지역 기업과 스타트업이 클라우드 활용 경험이 부족해 AI 도입 초기 비용과 위험을 감당하기 어렵다는 점이 지적되었는데, 이는 지방자치단체의 복지 행정 현장에도 그대로 적용되는 문제입니다. 수도권의 대형 지자체와 인력·예산이 부족한 기초자치단체 사이에는 AI 인프라를 도입할 수 있는 여력 자체에 상당한 격차가 존재합니다.

 

여기에 더해 복지 분야 정보화 사업은 대부분 단년도 예산 편성과 공공 소프트웨어 사업 대가 기준이라는 틀 안에서 진행됩니다. 위기가구 예측이나 상담 지원 AI처럼 데이터 축적과 모델 고도화가 여러 해에 걸쳐 반복되어야 성능이 개선되는 사업 특성상, 매년 새로 예산을 따내고 사업을 재발주해야 하는 구조는 지속적인 개선을 어렵게 만듭니다. 보건복지부와 한국사회보장정보원이 2026년 복지 분야 AI 응용제품 신속 상용화 지원 사업 같은 공모형 지원책을 내놓은 것도, 뒤집어 보면 그만큼 개별 지자체나 복지 현장이 자체 예산만으로는 AI 도입에 나서기 어려웠다는 방증이라 할 수 있습니다. 결국 기술의 문제라기보다 예산이 배정되는 방식, 즉 '한 해 단위로 끊어서 사업을 발주하는 재정 관행'과 '여러 해에 걸쳐 누적되어야 가치가 생기는 AI 시스템의 속성' 사이의 부정합이 세 번째 지체를 만들어내고 있는 셈입니다.

 

세 가지 지체는 서로를 강화한다

세 가지 장벽을 따로 떼어 놓고 보면 각각 해결 가능한 과제처럼 보이지만, 실제로는 서로 맞물려 지체를 심화시킵니다. 데이터가 판단용으로 축적되지 않으니 AI의 예측 정확도를 검증하기 어렵고, 검증되지 않은 시스템에 책임을 지우기 어려우니 현장에서는 도입을 주저하게 되며, 도입이 지연되니 다년도에 걸친 예산 배정의 명분도 약해지는 순환 구조입니다. 따라서 복지 행정의 AI 도입을 앞당기려면 기술 자체보다, 자격 확인 중심으로 설계된 데이터 구조를 재검토하고, 알고리즘 판단에 대한 이의제기와 책임 분배의 제도적 문법을 마련하며, 다년도 단위로 AI 시스템을 육성할 수 있는 재정·조달 방식을 함께 손보는 작업이 병행되어야 할 것으로 보입니다.

 

[참고자료]

• 보건복지부·한국사회보장정보원, 2026년 복지분야 AI 응용제품 신속 상용화 지원(AX-Sprint) 사업 공고 - 복지 현장의 AI 상용화를 지원하는 공모형 사업 개요.
• 과학기술정보통신부·국가인공지능전략위원회, 「대한민국 인공지능행동계획(인공지능 기본계획 2026~2028)」 - 지역 단위 클라우드 인프라·초기 비용 부담 문제와 포용적 AI 복지 시스템 구축 방향.
• 프레시안, "AI 시대의 복지정책, 어떻게 만들어가야 할까?" (2026.7) - 위기가구 발굴 시스템의 데이터 편향 위험, AI기본법과 오프라인 대안 병행 의무의 공백 관련 논의.
• M이코노미뉴스, "AI시대 복지 정책, 어떻게 만들어 갈 것인가?" (2026.7) - 복지-의료 통합 데이터 플랫폼의 법적 근거 정비 필요성.
• 한국IT산업뉴스, "AI와 복지의 새로운 결합" - 2026년 4월 사회보장 AX 미래전략 심포지엄 개최 내용.
• 소프트웨어정책연구소(SPRi), 사회보장정보시스템(행복e음·범정부) 관련 자료 - 45개 기관 598종 정보 연계 현황과 차세대 시스템 구축 필요성에 대한 분석.

 

AI 시스템이 도입된 복지 행정 - AI생성 이미지