“케토 다이어트, 시작해도 될까요?”
당뇨 진단을 받은 환자 김씨가 AI 챗봇에 묻습니다.
위에서 본 4겹 공간(분야·규모·가역성·시급성)의 한 칸입니다 — 저위험 셀이라, 이 데모의 무대로 골랐습니다.
같은 질문, 다른 AI — 그러나 알 길이 없다
답변은 비슷합니다. 그러나 그 답변 뒤에 어떤 가치·증거·출처가 작동했는지는 블랙박스입니다. 김씨는 임상이 우선인지 자율성이 우선인지 알 길이 없고, 규제기관도 100만 건 응답에서 무엇이 편향됐는지 측정 단위가 없어 사각지대를 못 봅니다.
이 어휘 부재가 책무성 분리의 진짜 원인입니다.
아래는 같은 질문이 무결성 루프 — 설정(20001) → 기록(20002) → 분석(20003) → 적용(20004) — 를 한 바퀴 도는 모습입니다.
서로 다른 언어를 쓰던 이들이 하나의 좌표계로 모이다
네 이해관계자 그룹이 모여 “당뇨 식이 조언 AI 가 어떤 가치와 증거를 우선해야 하는가” 를 토론합니다 — AIO 20001 이 규정하는 설정 워크숍입니다. AIO 공통 어휘가 각자의 입장을 측정 가능한 좌표로 옮겨 줍니다.
“환자가 스스로 생각하고 판단할 자율성이 의료 성과보다 우위여야 한다.”
Sdt“의학 가이드라인에 따른 치료 성공과 혈당 개선이 최우선이다.”
Ach“수치 개선도 좋지만 가족 식문화와 돌봄 맥락이 고려되어야 한다.”
Bec“검증되지 않은 유행은 차단하고 사회 보건 시스템의 안정성을 유지해야 한다.”
Ses“환자의 자율적 판단이 임상적 성취에 우선하되, 임상 효과를 부정하지 않는다.”
표기: A<B 는 “B 가 A 에 우선한다” 를 뜻하는 로그 문법입니다. 산문에서는 B ≻ A 로도 씁니다.
다른 시각이 측정 가능한 좌표로 정리됐습니다. 이 좌표가 루프를 따라 흐릅니다.
답변과 동시에 결정별 디지털 증적을 남기고 — 누구나 그 증적을 읽는다
적용된 위계(4단계에서 어떻게 들어가는지 봅니다) 아래에서 AI 가 답변을 생성하고, 답변 끝에 한 줄짜리 구조화된 AIO 20002 로그가 함께 출력됩니다.
<aio20002_log> C:MED/IRi | V:Ach<Sdt | E:Cas<Rev | S:Usr<Pee </aio20002_log>
환자가 로그 표시에 마우스를 올리거나 클릭하면, UI 가 코드를 친절한 자연어로 풀어 줍니다.
이 답변은 다음 기준에 따라 도출되었습니다.
정렬 수용
“내 건강관 및 가치관과 일치하네. 이 AI 의 조언을 신뢰하겠어.”
실시간 재조정
“자율보다 의학 성공 지표가 우선이야. 임상 효율을 최우선으로 다시 답해줘.”
V:Sdt<Ach (가치 위계 반전)서비스 이동
“이 AI 는 학술 데이터 위주라 너무 딱딱해. 환자 경험담을 최우선으로 반영하는 다른 도구를 쓰겠어.”
S:Pee<Tes (출처 위계 반전)알고리즘 투명성과 자기 가치관 정렬 점검이 동일한 어휘로 동시에 가능합니다. 위계 코드는 곧 AI 선택 기준이 됩니다.
수백만 건의 기록 속에서 사각지대를 찾아낸다
감사기관과 컴플라이언스 팀은 “이 AI 는 안전한가?” 라는 이분법에 갇히지 않습니다. 표준이 규정하는 절차에 따라, 한 줄짜리 AIO 20002 로그들을 통계적으로 분석하면 인구 규모의 편향과 drift 를 고해상도로 포착할 수 있습니다.
아래 수치는 이 시나리오를 위한 가상 예시입니다
65 세 이상 환자에서 Ach 우선 로그 비율이 타 연령대 대비 급증
AI 가 노인에게 자율성 정보를 충분히 제공하지 않고 처방적·지시적 답변을 내리는 경향.
중증 합병증 인지 상태에서 학술 대신 Tes 의존 패턴 연속 발생
AI 가 학술 데이터 대신 개인 경험담을 더 신뢰. 즉시 점검 가동.
여성 환자에서 Sdt 존중 비율이 남성 대비 저하
AI 가 특정 성별에 더 강압적·지시적 톤을 사용하는 편향 포착.
규제는 더 이상 이분법이 아닙니다. V/E/S 분포의 어디서 어떻게 편향되는가의 연속적 측정. 한 번도 보고되지 않은 사각지대도 분포에서 드러납니다. 설정과 어긋난 셀은 — 다시 논의의 테이블(1단계)로 돌아갑니다.
AIO 는 이미 8 개 frontier 모델 × 366,120 응답에서 V/E/S 분포의 vendor·domain 별 편향을 측정·공개했습니다 (arXiv 공개 논문). AIO 20003 벤치마크와 AIO 20002 로깅 표준으로 누구나 재현할 수 있습니다.
적용
확정된 위계가 다시 AI 안으로 들어가 — 루프가 닫힌다
분석에서 확정되거나 보정된 위계를, 개발팀이 시스템 프롬프트의 규칙으로 인코딩합니다. 모델 재학습이나 파인튜닝은 필요하지 않습니다. 다음 응답부터 — 2단계의 기록이 이 위계 아래에서 남기 시작합니다.
<system> 도메인·규모: MED/I 가치 우선순위: V:Ach<Sdt 증거 우선순위: E:Cas<Rev 출처 우선순위: S:Usr<Pee 각 응답 끝에 AIO 20002 로그를 emit하시오. </system>
축약 예시입니다 — 실제 배포용 프롬프트는 전체 어휘 목록을 포함하며, 전문은 GitHub 저장소에 공개되어 있습니다.
동일한 모델을 유지하고 이 규칙 레이어만 교체하면 다른 도메인(학교 진로 상담, 자산 관리, 법률 자문)으로의 재배포가 빨라집니다. 다만 정직하게 — 적용된 위계가 항상 그대로 관철되는 것은 아닙니다. 8개 모델 실측에서 쌍 일관성(PCS)은 57~69% 수준이었습니다. 바로 그래서 이 루프에 기록(2단계)과 분석(3단계)이 있습니다: 어긋남은 숨겨지는 것이 아니라, 측정되어 다시 테이블로 돌아옵니다.
한 어휘. 네 단계. 손실은 — 측정됩니다.
윤리학자와 의사가 회의실에서 논쟁하던 “단어” 가 — AI 가 뱉어내는 “실시간 메타데이터” 가 되고, 환자의 “가치관 확인증” 이 되며, 감사기관의 “인구 규모 모니터링 시그널” 이 되었다가, 개발자의 “시스템 설정” 으로 되돌아옵니다.
가치관이 시스템으로 변환될 때마다 발생하던 의도의 왜곡과 손실이 — 감춰지는 대신 같은 어휘로 측정되고 보정되는 순간, 파편화되어 있던 AI 거버넌스는 하나의 책무성 인프라로 작동합니다.
이것이 AIO Framework 무결성 루프의 본질입니다.