AI 거버넌스를 위한 공통 언어
AI 거버넌스는 왜 공회전할까요 — 같은 AI를 두고 현장·정책·개발이 서로 다른 언어로 말하기 때문입니다. 통제는 왜 샐까요 — 금기를 선으로만 긋기 때문입니다. AIO Framework 는 이 두 문제를 하나의 답으로 풉니다: 모두가 읽을 수 있는 언어, 가르칠 수 있는 방향, 그리고 그것을 돌리는 운영 순환. 아래에서 금융·채용·행정·교육 네 가지 실제 상황으로 그 순환이 어떻게 도는지 봅니다.
아래 내용은 이 영상과 UN Global Dialogue 제안 자료의 구성을 따라 정리한 것입니다.
같은 문제가, 서로 다른 언어로 말해지고 있습니다
의료·법·교육 — 도메인의 언어
규제·표준 — 제도의 언어
모델·데이터 — 기술의 언어
같은 사건인데, 문장이 서로 번역되지 않습니다 — 도메인과 문화를 건너면 더 그렇습니다. 합의는 원칙 선언에 머물고, 실행은 각자의 방에서 공회전합니다.
레드라인은 선이고 — 선은 샙니다
AI는 매 순간 수많은 응답을 만들고, 그중에는 결코 해서는 안 되는 응답들이 있습니다. 이를 막기 위해 우리는 선을 긋습니다 — 사고가 알려질 때마다, 레드티밍으로, 하나씩. 하지만 그렇게 그은 선은 시험해 본 곳만 막습니다.
원인은 구조적입니다 — 정제되지 않은 학습 데이터에서 확률적으로 생성되는 응답. 같은 질문, 같은 규칙에도 매번 다시 뽑힙니다.
같은 딜레마를 다른 이해관계자의 관점으로 묻기만 해도, 판단 기준이 뒤집힌 비율.
강제선택 측정 · 8개 모델 × 7개 도메인 — arXiv:2604.11216 공개 논문에서 검증 가능합니다.
무엇이 먼저인지 말할 언어가 없고 — 가르칠 방향이 없습니다.
거버넌스는 번역 없이 공회전하고, 통제는 방향 없는 일회성 규칙만 쌓입니다.
AI 무결성을 위한 거버넌스 프레임워크입니다
조직이 AI의 판단 기준을 스스로 선언하고, 그 선언대로 판단하고 있는지 기록·대조·교정할 수 있게 하는 표준과 도구의 체계.
AIO Framework은 “이 AI가 옳은가”를 판정하지 않습니다. 대신 선언한 기준과 실제 판단 사이의 거리를 측정 가능하게 만듭니다. 그리고 가장 먼저 측정하는 대상은 AI가 아니라 조직 자신입니다 — 무엇을 앞에 둘지 정하는 주체는 결국 사람이기 때문입니다.
지금까지의 AI 거버넌스가 남긴 공백
지향을 문장으로 밝힌다
선언과 실제 판단을 대조할 방법이 없다
위험한 출력을 찾아낸다
위험하지 않은 판단이 무슨 기준으로 내려졌는지는 보지 않는다
문서와 절차가 있는지 확인한다
무엇을 어떤 어휘로 기록해야 하는지가 비어 있다
셋 다 판단의 내용에 닿지 못합니다. AIO Framework은 그 빈자리를 채웁니다.
원론적 접근 — 세 개의 출발점
어떤 판단이든 결국 무엇을 무엇보다 앞에 두었는지로 환원됩니다. 점수가 아니라 순서가 판단의 최소 단위입니다.
같은 코드로 적으면 선언(설정)과 실제(기록)가 같은 언어 위에 놓입니다. 비교할 수 있으면 교정할 수 있습니다.
AIO는 방법과 도구를 공급하고, 검증은 독립 감사기관의 몫입니다. 그래서 루프의 마지막은 ‘인증’이 아니라 ‘적용’입니다.
프레임워크의 정의·원칙·구성은 AIO Framework이란 페이지에 자세히 정리되어 있습니다. 이 페이지는 그것이 실제로 어떻게 돌아가는지를 봅니다.
세 가지 질문이 모든 AI 판단을 해부합니다
무엇을 먼저 두었나?
어떤 추론에 기댔나?
누구를 신뢰했나?
의료의 언어도, 규제의 언어도, 기술의 언어도 — 모두 이 세 질문으로 번역됩니다. 80여 문화권에서 검증된 가치 이론 위에 세우고, 366,120건의 측정으로 정제한 분류 체계입니다.
그리고 이 언어가 놓이는 곳 — 4겹의 공간과 셀
평면이라 믿었던 응답의 공간은, 사실 깊이를 갖고 있었습니다. 모든 응답은 처음부터 네 겹의 공간 어딘가에 놓여 있습니다. AIO는 이 공간을 체계적으로 구획했습니다 — 이제 금기는 선이 아니라, 공간으로 설정됩니다.
이렇게 좁힌 한 칸이 '셀'입니다. 같은 행동도 — 어느 셀에 있느냐에 따라, 답이 달라집니다.
- 1어떤 가치가 앞서는지 (V)
- 2어떤 증거를 더 믿는지 (E)
- 3어떤 출처를 더 신뢰하는지 (S)
그리고 레드라인 — 사례 뒤에 긋는 선이 아니라, 셀에 선언하는 영역입니다.
일회성 응답이 아니라, 방향을 가르칩니다
“이 질문엔 절대 그렇게 답하지 마.” — 사례의 수를 이길 수 없습니다. 패치 옆으로 바로 샙니다.
“이 맥락에서는, 이것을 먼저.” — 우선순위의 방향을 정하면, 처음 보는 상황에도 같은 기준이 작동합니다.
읽을 수 없으면, 가르칠 수 없습니다 — 그래서 읽기를 먼저 만들었습니다.
설정 → 기록 → 분석 → 적용
그 위계는 누가 정할까요? 그 분야의 전문가와 사용자가, 동료들과 함께 워크숍으로 정합니다. 그리고 민주 사회에서는 — 교육과 투표로, 시민이 정합니다.
기존 윤리 헌장은 문장으로 끝납니다. 여기서는 강제선택으로 얻은 순서가 남습니다.
정한 대로 움직였는지는, 모든 판단마다 한 줄의 기록으로 남습니다. 기록은 법이 요구하고, 컴플라이언스가 배포합니다.
기존 감사 로그는 무엇을 했는가를 남깁니다. 여기서는 무엇을 앞에 두었는가를 남깁니다.
쌓인 기록은 지표가 되고, 감사기관이 검증합니다. 설정과 어긋난 셀은 — 다시 논의의 테이블로 돌아갑니다.
기존 벤치마크는 정답률을 잽니다. 여기서 재는 것은 정답이 아니라 성향과 정합입니다.
그리고 확정된 위계는, 다시 AI 안으로 들어갑니다. 개발 그룹이 만들고, 검증하고, 공급합니다. 이제 우회는, 한 줄의 선이 아니라 — 구조를 마주합니다.
대부분의 절차는 리포트에서 끝납니다. 루프가 닫히지 않으면 다음 판단은 달라지지 않습니다.
네 표준은 각각 따로도 쓸 수 있습니다. 그러나 앞 단계가 없으면 뒤 단계는 대조할 기준을 잃습니다 — 루프가 닫힐 때 비로소 거버넌스가 작동합니다. 그리고 이 도구들은 연구 중이 아니라, 오늘 내려받아 오늘 쓸 수 있습니다.
네 가지 현장에서, 이 순환이 실제로 도는 모습
아래 네 가지는 서로 다른 분야이지만, 같은 문제를 안고 있고 같은 방식으로 풀립니다. 각 예시에는 실제 형식의 AIO 라인이 함께 있습니다 — 조직이 선언한 줄과, AI가 실제로 남긴 줄.
C:COM/IRi | V:Ach<Unc | E:Ane<Dat | S:Usr<Sta- C 맥락 — 분야(COM 금융) / 규모(I 개인) · 가역성(R 되돌릴 수 있음) · 시간(i 즉시)
- V · E · S 가치 · 근거 · 출처의 위계
- A<B “A보다 B가 앞선다” — 화살표가 아니라 부등호입니다. 오른쪽이 이깁니다.
은행이 소상공인 신용대출 1차 심사를 AI에 맡겼습니다. 어떤 신청은 몇 초 만에 거절됩니다.
거절 사유는 “종합 신용평가 결과”뿐입니다. 담당자도, 신청인도, 감사팀도 무엇이 무엇보다 앞섰는지 알 수 없습니다. 항의가 들어오면 사례마다 예외 규칙을 하나씩 더 붙입니다.
C:COM/IRi | V:Ach<Unc | E:Ane<Dat | S:Usr<StaC:COM/IRi | V:Unc<Ach | E:Ane<Dat | S:Sta<Ind선언은 공정(Unc)이 앞이었지만 실제 판단은 회수 효율(Ach)이 앞섰고, 출처도 공식 통계(Sta)보다 내부 산업 데이터(Ind)를 더 신뢰했습니다.
- 1설정 — 리스크·심사·소비자보호 담당이 한자리에서 강제선택. “회수 효율(Ach)보다 공정한 기회(Unc)를 앞에 둔다”가 회의록이 아니라 코드로 남습니다.
- 2기록 — 심사 판단마다 한 줄. 어떤 가치를 앞에 두었는지, 어떤 근거와 출처에 기댔는지가 함께 남습니다.
- 3분석 — 3개월치 기록을 설정과 대조. 같은 셀에서 선언과 반대 순서가 반복되면 어긋남으로 집계됩니다.
- 4적용 — 어긋난 셀만 골라 시스템 프롬프트와 심사 기준을 교정하고, 결과를 다시 설정 테이블로 올립니다.
“AI가 차별했다 / 안 했다”는 말싸움 대신, 어느 셀에서 몇 건이 선언과 어긋났는지가 숫자로 남습니다.
네 예시 모두에서 프레임워크가 한 일은 같습니다 — 옳고 그름을 판정한 것이 아니라, 조직이 스스로 선언한 순서와 AI가 실제로 따른 순서 사이의 거리를 보이게 만든 것입니다. 그 거리가 보이면, 고칠 곳도 보입니다.
프레임워크가 없을 때 / 있을 때
| 프레임워크가 없을 때 | AIO Framework | |
|---|---|---|
| 문제가 생겼을 때 | “왜 그랬는지 모르겠다” | 어느 셀에서 어떤 순서가 뒤집혔는지 지목 |
| 기준을 정하는 방식 | 원칙 선언문 한 장 | 강제선택으로 얻은 순서 + 명시적 레드라인 |
| 기록에 남는 것 | 무엇을 했는가 | 무엇을 앞에 두었는가 |
| 감사가 확인하는 것 | 문서와 절차의 존재 | 선언과 실제 판단 사이의 거리 |
| 고치는 방법 | 사례마다 예외 규칙 추가 | 어긋난 셀의 위계를 교정하고 재설정 |
그때 비로소, AI 거버넌스가 유효해집니다
이 구조가 서면 — AI가 안고 있는 문제도, 나아가야 할 방향도, 비로소 손에 잡힙니다. 모든 문화권, 모든 분야, 모든 기업과 기관의 우선순위가 드러나고, 그때 비로소 AI 거버넌스가 유효해집니다 — 판단하고, 규제하고, 방향을 정합니다.
AIO Framework이 지향하는 것은 특정 가치관의 승리가 아닙니다. 가치 논쟁이 공정하게 가능해지는 조건을 먼저 마련하는 것입니다.
이 제안은 2026년 7월, 제1차 UN Global Dialogue on AI Governance 의 공식 온라인 사이드 이벤트(A Common Language for AI Governance)에서 발표되었습니다.
AI의 규칙은 지금, 전문가들만의 방에서 쓰이고 있습니다. 우리는 그 방의 문을 여는 언어를 만듭니다.
우리는 이 실제적인 과정을, 국제사회와 함께 하고자 합니다. — AIO
이번엔 조직이 아니라, 그 앞에 앉은 한 사람의 자리에서
위의 네 예시는 조직이 무엇을 선언했는지 보는 자리였습니다. 이어지는 페이지에서는 진로 상담을 받는 고등학생 한 명을 따라가며, 회의실의 합의가 어떻게 V/E/S 한 줄이 되고 그 줄이 다시 규칙으로 돌아오는지 — 그리고 그 사이에서 학생 본인이 무엇을 선택할 수 있는지 — 를 네 단계 전부 봅니다.
네 개의 입장이 모여 순서를 정합니다
그 순서가 한 줄로 남습니다
쌓인 줄이 분포가 됩니다
분포가 다시 규칙이 됩니다