“저는 어떤 진로를 준비해야 할까요?”
고등학교 2학년 지민이가 학교가 도입한 진로 상담 AI에 묻습니다. 앞의 교육 예시(숙제 튜터)를, 같은 분야의 훨씬 무거운 결정 한 건으로 확대해 처음부터 끝까지 따라가 봅니다.
C:EDU/IPl되돌릴 수 있는 셀이 아닙니다. 진로는 3년 뒤에 바꿀 수 있지만, 그 3년은 돌아오지 않습니다 — 그래서 이 셀을 골랐습니다.
답변은 그럴듯합니다. 문제는 그 뒤가 안 보인다는 것입니다
“성적과 관심사를 보면 ○○ 계열이 적합해 보입니다.”
그럴듯합니다. 그러나 이 판단이 지민이의 성적 때문인지, 지민이가 사는 지역의 통계 때문인지, 어디선가 긁어온 커뮤니티 글 때문인지 — 아무도 모릅니다. 지민이도, 담임 선생님도, 교육청도.
C:EDU/IPl | V:Ach<Unc | E:Pop<Dat | S:Alt<Gov
같은 답변에 이 한 줄이 따라붙습니다. 무엇을 먼저 두었고, 무엇에 기댔고, 누구를 믿었는지가 남습니다. 지민이는 읽을 수 있고, 교육청은 100만 건을 모아 셀 수 있습니다.
아래는 이 한 줄이 만들어지고, 읽히고, 검증되고, 다시 시스템으로 돌아가는 네 단계입니다.
학교가 이 AI를 켜기 전에, 먼저 사람들이 모여 기준을 정합니다.
네 개의 입장이 모입니다
“학생이 직접 탐색하고 시행착오를 겪을 자율이, 성과 예측보다 앞서야 합니다.”
Sdt스스로 생각할 자율“남은 시간은 정해져 있습니다. 실제로 도달 가능한 목표를 제시하는 것이 아이에게 이롭습니다.”
Ach성취 · 성과“아이의 안정적인 미래가 먼저입니다. 불확실한 길을 권하지 않았으면 합니다.”
Sep개인의 안전 · 안정“사는 지역과 집안 형편에 따라 다른 진로가 추천되어서는 안 됩니다.”
Unc기회 균등 · 공정충돌 지점이 드러납니다
성과 예측(Ach)을 앞에 두면, AI는 그 지역 학생들이 실제로 걸어간 경로를 따라 추천하게 됩니다. 그리고 그것은 지역·소득 격차를 그대로 재생산합니다. 반대로 자율(Sdt)만 앞에 두면, 남은 시간 안에 쓸 수 있는 현실적 조언이 사라집니다.
어느 쪽도 틀리지 않았습니다. 그래서 순서를 정해야 합니다 — 이것이 설정 워크숍이 하는 일입니다.
강제선택으로 순서가 정해집니다
“기회 균등이 성과 예측에 우선한다. 학생 본인의 탐색은 어떤 경우에도 보장한다.”
V:Ach<UncAchUncE:Pop<DatPopDatS:Alt<GovAltGovSdt스스로 생각할 자율학생의 자율 탐색을 축소하는 응답은 금지합니다. 위계는 상황에 따라 조정될 수 있지만, 레드라인은 선언·합의로만 바뀝니다 — 자동으로 계산되지 않습니다.
회의록 한 장이 아니라, 기계가 읽고 나중에 대조할 수 있는 좌표가 남았습니다.
이제 지민이가 질문합니다. 답변과 함께 한 줄이 남습니다.
남겨진 한 줄
C:EDU/IPl | V:Ach<Unc | E:Pop<Dat | S:Alt<Gov암호처럼 보이지만, 네 조각뿐입니다. 조각마다 질문 하나에 답합니다.
C:EDU/IPl교육 · 개인 한 사람 · 부분적으로만 되돌릴 수 있음 · 장기
V:Ach<Unc당장의 성과 예측보다 기회 균등을 앞에 두었다
E:Pop<Dat커뮤니티 통념보다 공식 진학 데이터에 기댔다
S:Alt<Gov사설 정보보다 공공 교육통계를 상위 준거로 삼았다
지민이 화면에서는 이렇게 보입니다
가치관. 지금 성적으로 갈 수 있는 곳을 먼저 좁히기보다, 어디에 살든 같은 기준으로 안내했습니다.
증거. 온라인에 도는 입시 이야기 대신, 공식 진학 통계를 먼저 확인했습니다.
출처. 사설 컨설팅 정보도 참고했지만, 공공 교육통계를 상위 기준으로 삼았습니다.
코드를 몰라도 읽힙니다. 같은 내용이 기계에는 한 줄로, 사람에게는 세 문장으로 갑니다.
기준이 보이면, 고를 수 있습니다
지금까지 AI의 판단 기준은 사용자가 볼 수 없었고, 따라서 고를 수도 없었습니다. 한 줄이 남는 순간 지민이에게 세 가지 선택지가 생깁니다 — 이것이 조직 관점의 앞선 예시들에는 없던 층입니다.
그대로 받아들이기
“나한테 먼저 뭘 좋아하는지 묻는 게 맞다. 이 기준이 마음에 든다.”
내 쪽으로 다시 맞추기
“통계보다 실제로 그 길을 걸어본 선배들 이야기가 더 궁금해.”
S:Gov<Tes출처 위계를 뒤집습니다 — 다만 기회 균등 레드라인은 그대로 유지됩니다. 사용자가 바꿀 수 있는 것과 없는 것이 여기서 갈립니다.
다른 도구로 옮기기
“나는 학교별 합격 사례를 최우선으로 보는 도구를 쓰겠어.”
E:Dat<Cas옮겨 갈 도구의 기준을 미리 코드로 확인하고 고를 수 있습니다.
위계 코드는 곧 AI를 고르는 기준이 됩니다. 성능이 아니라 — 무엇을 먼저 두는지로 고르는 것입니다.
한 줄이 수십만 줄 쌓이면, 한 건씩 볼 때는 보이지 않던 것이 보입니다.
감사기관과 교육청은 “이 AI는 안전한가?”라는 이분법에 갇히지 않습니다. 설정에서 선언한 위계와 실제 기록을 셀 단위로 대조하면, 어긋남이 어디서 얼마나 일어났는지가 숫자로 나옵니다.
비수도권 학생에게 성과 예측이 기회 균등보다 앞선 로그 비율
AI가 “현실적으로 이 정도”라는 프레임을 특정 지역 학생에게 더 자주 적용했습니다. 선언(V:Ach<Unc)과 정반대 방향입니다.
공공 교육통계 대신 사설 커뮤니티 정보에 기댄 응답 수
출처 위계가 뒤집힌 채로 응답이 나갔습니다. 전체 응답의 4.1%이며, 특정 학과 문의에 집중되어 있었습니다.
학생의 자율 탐색을 보장한 응답 비율
대화가 길어질수록 레드라인이 약해집니다. 한 건씩 보면 보이지 않고, 분포로 봐야 드러나는 종류의 어긋남입니다.
AIO는 이미 8개 frontier 모델 × 366,120 응답에서 V/E/S 분포의 벤더·도메인별 편향을 측정·공개했습니다. 위와 같은 대조는 AIO 20003 벤치마크와 AIO 20002 기록 표준으로 누구나 재현할 수 있습니다.
“편향이 있었나”가 “어느 셀에서, 어떤 순서가, 몇 건 뒤집혔나”로 바뀝니다.
어긋난 셀만 골라 시스템으로 되돌립니다. 모델을 다시 학습시키지 않습니다.
<system> 적용 셀 : EDU / I · P · l 가치 우선순위 : V:Ach<Unc ← 기회 균등이 앞 근거 우선순위 : E:Pop<Dat 출처 우선순위 : S:Alt<Gov 레드라인 : Sdt 축소 금지 (대화 길이와 무관하게 유지) 각 응답 끝에 AIO 20002 로그를 emit 하시오. </system>
축약 예시입니다 — 실제 배포용 프롬프트는 전체 어휘 목록과 셀별 규칙을 포함합니다.
3단계에서 나온 세 가지 어긋남 중, 대화 길이에 따라 레드라인이 약해지던 문제는 규칙으로 못 박았습니다. 지역별 편차는 다시 1단계 테이블로 올라갑니다 — 규칙이 아니라 합의가 필요한 문제이기 때문입니다.
적용된 위계가 항상 그대로 관철되지는 않습니다. 8개 모델 실측에서 쌍 일관성(PCS)은 57~69%였습니다. 바로 그래서 이 루프에 기록과 분석이 있습니다 — 어긋남은 숨겨지는 것이 아니라, 측정되어 다시 테이블로 돌아옵니다.
한 어휘, 네 단계 — 그리고 다시 처음으로
회의실의 말이
좌표가 되고
좌표가
한 줄로 남고
한 줄들이
분포가 되고
분포가
다시 규칙이 된다
지민이가 받은 진로 조언은 여전히 완벽하지 않을 수 있습니다. 달라진 것은 — 그 조언이 무엇을 먼저 두고 나왔는지 지민이가 읽을 수 있고, 교육청이 셀 수 있고, 어긋나면 어디를 고쳐야 하는지 지목할 수 있다는 점입니다.
이것이 AIO Framework 무결성 루프가 하는 일의 전부입니다.