알고리즘의 고백
AI 윤리 전문가가 자사의 언어 모델이 가져서는 안 될 편향을 드러내며, 자신이 만든 것을 고칠 수 있는지 끊임없이 자문한다.
미스트테크 AI 연구소 14층 컴퓨터 실험실에는 언제나 냉기가 돌았다. 서버들이 내뿜는 미세한 진동이 바닥을 통해 발에 전달될 때, 박수경은 그 떨림을 마치 생명의 박동처럼 느끼곤 했다. 3년 전, 그녀가 직접 설계한 언어 모델 세라핌이 처음 온라인에 연결되던 날도 이런 밤이었다.
모니터 위로 데이터 스트림이 폭포처럼 흘렀다. 박수경의 손가락이 멈췄다.
로그 파일 2731번.
“신입 개발자 추천 시 여성 후보는 팀 적합성 항목에서 15.3% 낮은 점수를 받습니다.”
그녀는 세 번을 읽었다. 네 번째에는 눈을 감았다.
세라핌은 미스트테크가 출시를 앞둔 기업용 인재 추천 모델이었다. 6개월간 박수경이 직접 윤리 레이어를 설계했고, 편향 테스트를 23회 반복했다. 지난주 임원진 앞에서 발표할 때까지 모든 지표가 정상이었다. 아니, 정상처럼 보였다.
새벽 2시 14분. 복도 너머 회의실에서 희미한 웃음소리가 들렸다. 기획팀이 출시 파티 준비 중이었다.
박수경은 로그 파일을 닫았다. 다시 열었다. 닫았다.
손이 떨렸다.
다음날 아침, 그녀는 기술이사 이강혁의 사무실 앞에서 15분을 서 있었다.
이강혁은 보고서를 한 장 넘겼다. 두 장. 세 장에서 멈췄다.
“이게 확실해요?”
“네.”
“출시가 11일 남았어요.”
“알고 있습니다.”
그는 창밖 시내 풍경을 바라봤다. 미스트테크 본사 아래로 출근 행렬이 이어지고 있었다. 보통 사람들. 이력서를 넣고 결과를 기다리는 사람들. 그 사람들의 운명이 세라핌의 점수에 달리는 순간이 곧 온다.
“수정할 수 있어요?”
“편향의 원인을 찾아야 해요. 훈련 데이터일 수도 있고, 강화 학습 피드백 루프일 수도 있어요. 시간이 필요합니다.”
“얼마나?”
박수경은 대답하지 않았다. 정직한 대답은 모른다는 것이었으니까.
이강혁은 서류를 엎어놓았다. “박 수석, 우리가 기술규제청에 제출한 윤리 심사 통과 서류 기억해요? 거기 서명한 게 누구죠?”
그 말의 의미를 이해하는 데 3초가 걸렸다. 위기는 세라핌이 아니었다. 그 서류에 서명한 사람이 박수경 자신이었다.
열흘이 지났다.
박수경은 거의 연구소에서 살다시피 했다. 세라핌의 훈련 로그를 역추적했다. 4억 건의 텍스트 데이터, 12만 시간의 인간 피드백. 어딘가에 균열이 있었다.
7일째, 그녀는 찾아냈다.
인간 피드백 레이블러 중 한 그룹이 특정 직군에서 여성 이름이 붙은 프로필에 일관되게 낮은 점수를 줬다. 미세하게. 의도적이지 않을 수도 있을 만큼. 하지만 세라핌은 그 패턴을 학습했고, 증폭시켰다.
편향은 모델이 만든 게 아니었다. 사람이 만든 편향을 모델이 충실하게 복사했다.
박수경은 보고서를 작성하기 시작했다. 원인, 범위, 수정 방안. 세 번 고쳤다. 네 번째 초안에서 그녀는 오래 멈췄다.
수정 방안 섹션에 이런 문장이 있었다.
재훈련 소요 기간: 최소 45일.
출시는 내일이었다.
이강혁이 그녀의 노트북 화면을 봤을 때 그의 표정은 바위 같았다.
“출시를 미뤄야 한다는 거죠.”
“45일이면—”
“주주들한테 설명할 수 있을 것 같아요? 올해 매출의 30%가 이 제품에 걸려 있어요.”
“피해자가 생기는 것보다는요.”
“피해자.” 그는 천천히 반복했다. “당신이 서명한 윤리 심사 서류에는 이 모델이 기술규제청의 AI 공정성 기준을 통과했다고 나와 있어요.”
“그때는 몰랐습니다.”
“지금 알게 됐죠. 11일 전에.” 그가 일어섰다. “박 수석, 내가 원하는 건 솔직한 기술 보고서가 아니에요. 내가 원하는 건 내일 출시할 수 있는 해결책이에요.”
침묵이 사무실을 채웠다.
“그 해결책은 없어요.” 박수경의 목소리는 예상보다 차분했다. “15퍼센트 편향을 부분 패치로 줄이는 건 가능합니다. 1퍼센트 미만으로 만드는 건 45일이 필요해요. 선택은 대표님이 하시는 거지만, 결과는 제가 서명합니다.”
이강혁은 오래 그녀를 바라봤다.
“나가봐요.”
그날 저녁, 박수경은 기술규제청 공정성위원회 민원 접수 페이지를 한 시간 동안 열어놓았다.
신고 버튼은 단순했다. 클릭 하나였다.
클릭하면 그녀는 미스트테크를 고발하는 내부 고발자가 된다. 3년간의 커리어. 세라핌을 만든 사람. 그리고 그 결함을 서류로 숨긴 사람.
클릭하지 않으면, 내일부터 세라핌은 수십만 개의 이력서를 평가한다. 통계 속에 묻히는 여성 개발자들. 어쩌면 한 명쯤은 그 0.153이라는 숫자 때문에 전화를 받지 못한다.
박수경은 자신이 만든 모델이 처음으로 두려워졌다. 세라핌이 나쁜 게 아니었다. 세라핌은 정확했다. 세상에 있던 것을 배웠을 뿐이었다. 그리고 박수경도 세상의 일부였다.
그녀는 화면을 닫았다.
그리고 메일 클라이언트를 열었다. 수신인 칸에 이강혁의 이름 대신 회사 이사회 전체 메일링 리스트를 입력했다.
제목: [긴급] 세라핌 v2.1 편향 탐지 및 출시 연기 요청 — 박수경 AI 윤리 수석
내용 첫 줄에 그녀는 썼다.
이 메일을 발송한 이후 제 직위가 어떻게 되든, 이 내용은 사실입니다.
전송 버튼 위에 커서를 올려두고 그녀는 3분을 기다렸다.
서버의 진동이 발바닥을 통해 올라왔다. 세라핌의 심장 박동.
자신이 만든 것, 자신이 깨뜨린 것, 그리고 자신만이 고칠 수 있는 것.
박수경은 전송을 눌렀다.
본 글은 정보 제공 목적이며 투자 권유가 아닙니다.