얼마 전 어느 회의실에 앉아 있었습니다. 새 자동 시스템을 들일지 말지를 두고 몇 시간째 도는 자리였습니다. 완벽하게 다듬으려면 반년은 더 걸린다, 그사이 경쟁사는 앞서간다 — 답답한 공기가 이어지다가, 한 분이 이렇게 정리했습니다. "완벽할 순 없죠. 일단 돌려보고, 문제 생기면 그때 고치면 되잖아요." 순간 방 안의 어깨들이 스르르 내려갔습니다. 다들 기다리던 말이었으니까요.
저도 그 말에 고개를 끄덕일 뻔했습니다. 실제로 맞는 말이거든요. 그런데 그 자리를 나오면서 이상하게 마음 한구석이 걸렸습니다. 이 말은, 언제 맞고 언제 틀릴까.
여러분이라면 그 회의실에서 뭐라고 하셨을까요. "일단 돌려보자"는 말은 요즘 거의 상식입니다. 완벽주의로 늦느니 빨리 내고 고치는 게 낫다 — 이건 실리콘밸리가 증명한 성공 공식처럼 들립니다. 그런데 저는 이 똑같은 말이 어떤 방에서는 회사를 살리고, 어떤 방에서는 사람을 짓밟는 걸 봤습니다. 오늘은 그 갈림을 한번 풀어보려 합니다. 이 글을 덮을 때쯤이면, "충분히 좋은가?"라는 질문이 결함의 크기를 재는 질문이 아니라 세 개의 문이 열려 있는지를 점검하는 질문으로 바뀌어 있을 겁니다.
'충분히 좋으니 일단 쓰자'는 원래 이기는 말이었습니다
먼저 이 말이 왜 그렇게 설득력 있는지부터 짚어야 공평합니다. 근거 없는 유행어가 아니거든요.
링크드인을 공동 창업한 리드 호프먼은 「임프롬프투」라는 책에서 자기 운영 원리를 이렇게 밝힙니다. 제품의 성패를 가르는 건 초기 품질의 완벽함이 아니라 '분배', 즉 얼마나 잘 퍼지느냐라고요. 더 좋은 제품이 아니라 더 잘 퍼지는 제품이 이긴다는 겁니다.
그 증거로 그가 드는 게 위키백과입니다. 처음 나왔을 때 사람들은 비웃었습니다. 아무나 고치는 백과사전이 정확할 리 없다고요. 실제로 틀린 내용이 많았습니다. 그런데 위키백과 창립자 지미 웨일스는 이렇게 답합니다. "그건 목적에 따라 충분히 좋은 지식이다." 학술 논문에 인용하기엔 부족해도, 어떤 개념을 빨리 파악하기엔 충분하다는 거죠.
여기서 핵심은 부정확함 자체가 아닙니다. 부정확함을 '고칠 수 있는 문제'로 바꿔놓은 구조입니다. 종이 백과사전은 틀리면 다음 판이 나올 때까지 몇 년을 못 고칩니다. 위키백과는 지금 이 순간 고칩니다. 틀린 문장은 다음 편집에서 지워지고, 그 편집 이력은 누구나 들여다볼 수 있습니다. 그래서 결함이 쌓이지 않고 녹아버립니다. 호프먼의 표현을 빌리면, 분배 방식이 품질의 결함을 흡수한 겁니다.
여기까지만 보면 결론은 분명해 보입니다. 완벽을 기다리지 말고 빨리 내라, 분배가 결함을 흡수한다. 이게 "일단 돌려보고 고치자"의 든든한 뒷배입니다.
그런데 같은 논리가 아픈 사람을 명단에서 밀어냈습니다
저를 걸리게 한 건 그다음이었습니다. 똑같은 논리가 정반대 결과를 낳는 장면을 봤거든요.
「공정성과 머신러닝」이라는 교재에 나오는 이야기입니다. 미국의 한 의료 시스템이 '앞으로 누가 더 많은 돌봄이 필요할까'를 예측해서 추가 관리를 배정하는 알고리즘을 돌렸습니다. 취지는 좋았습니다. 그런데 '의료 필요'라는 건 직접 재기가 어렵습니다. 그래서 재기 쉬운 것을 대신 썼습니다. '과거에 의료비를 얼마나 썼나'를요.
문제가 여기서 터집니다. 흑인 환자들은 같은 건강 상태에서도 의료 접근이 적어 지출이 낮았습니다. 그러니 알고리즘은 이들의 '필요'를 체계적으로 낮게 매겼습니다. 아파도 덜 아픈 걸로 계산된 겁니다. 정작 돌봄이 필요한 사람들이 조용히 명단에서 밀려났습니다.
이 시스템을 만든 사람들도 분명 이렇게 생각했을 겁니다. "완벽하진 않지만 충분히 좋다. 일단 돌리고 고쳐 나가자." 위키백과와 똑같은 말입니다. 그런데 결과는 정반대였습니다. 위키백과의 틀린 문장은 다음 사람이 지우면 그만이지만, 명단에서 밀려나 제때 치료받지 못한 사람의 시간은 되돌아오지 않습니다.
저는 이 두 이야기를 나란히 놓고 한참을 봤습니다. 위키백과도 틀리고 알고리즘도 틀립니다. 겉만 보면 둘 다 '충분히 좋은' 불완전한 시스템입니다. 결함의 크기로만 따지면 우열을 가리기도 어렵습니다. 그런데 하나는 세계 최대의 지식 창고가 됐고, 하나는 사람을 짓밟았습니다. 무엇이 갈랐을까요.
갈림은 결함의 크기가 아니라 세 개의 문이었습니다
파고들수록 분명해졌습니다. 두 시스템을 가른 건 결함의 크기가 아니라 세 개의 문이 열려 있느냐 닫혀 있느냐였습니다. 저는 이걸 '세 관문'이라고 부르기로 했습니다. "일단 돌려보고 고치자"가 정당해지려면, 이 세 문을 몰래 다 통과해 있어야 합니다.
첫째 문, 고칠 수 있나. 틀렸을 때 되돌릴 수 있는가입니다. 위키백과의 오류는 다음 편집에서 지워집니다. 그런데 제때 치료 못 받은 사람, 갈라진 가족, 박탈된 자격은 되돌릴 수 없습니다. 오류의 비용이 비가역이면, 저는 여기엔 '일단 돌리자'를 갖다 대지 않습니다.
둘째 문, 깔아도 되나. 왜 이런 결정이 났는지 당사자가 물을 통로가 있는가입니다. 위키백과는 누가 언제 무엇을 고쳤는지 이력이 다 공개됩니다. 반면 그 알고리즘은 '의료비'라는 대리 지표 뒤에 근거를 숨겼고, 밀려난 사람은 이유조차 물을 수 없었습니다. 같은 책에 이런 예가 나옵니다. 운동화 색깔로 육상팀을 뽑으면, 규칙이 아무리 일관돼도 그건 자의적입니다. 근거가 없으니까요. 일관되게 돌아가는 것과 정당한 것은 다른 문제입니다.
셋째 문, 누구 손에 쥐나. 그 도구의 힘이 결정당하는 쪽에도 가는가입니다. 위키백과가 스스로 고쳐지는 건 '아무나 고칠 수 있어서'입니다. 힘이 모두에게 흩어져 있죠. 반대로 그 알고리즘의 힘은 운영 기관에만 쥐여 있었고, 환자는 그걸 뒤집을 지렛대가 없었습니다. 리드 호프먼이 다른 대목에서 강조하는 말이 이겁니다. 같은 도구라도 그 힘을 기관이 아니라 평범한 사람 손에 쥐여줄 때 비로소 사람을 돕는 쪽으로 돈다고요.
이 세 문을 한 줄로 정리하면 이렇습니다. 고칠 수 있나 · 깔아도 되나 · 누구 손에 쥐나. 위키백과는 셋 다 열려 있어서 이겼고, 그 알고리즘은 셋 다 닫혀 있어서 사람을 짓밟았습니다. 문제는 결함이 아니라 문이었습니다.
그래서 내일, 새 도구 앞에서 무엇을 물을까
여기까지 왔으면 그 회의실로 다시 돌아가 볼 수 있습니다. "일단 돌려보고 고치자"는 말이 나왔을 때, 저는 이제 반사적으로 고개를 끄덕이지 않습니다. 대신 세 관문을 순서대로 열어봅니다.
새 자동화든, 새 제도든, 새 프로그램이든 — 불완전한 채로 무언가를 도입하려 할 때, 이 세 질문을 순서대로 던져보시면 어떨까요.
하나, 이게 틀리면 되돌릴 수 있나. 되돌릴 수 없는 피해(관계 파탄, 자격 박탈, 사람을 밀어내는 배제)를 남긴다면, '충분히 좋으니 일단'을 여기엔 갖다 대지 않습니다.
둘, 왜 이런 결과가 나왔는지 당사자가 물을 통로가 있나. 이유를 설명하고 이의를 받을 창구가 없으면, 결함을 발견해도 고칠 길이 없습니다. 조용히 곪습니다.
셋, 이 도구의 힘이 결정당하는 쪽에도 가나. 힘이 도입하는 쪽에만 쏠리면, 같은 도구가 어느 순간 돕는 손이 아니라 누르는 손으로 뒤집힙니다.
순서가 중요합니다. 둘째 문(깔아도 되나)이 셋째 문(누구 손에)보다 먼저입니다. 애초에 깔면 안 되는 시스템 위에서 '누구에게 공정하게 나눌까'부터 손보면, 오히려 그 시스템에 정당하다는 도장을 찍어주는 셈이 되니까요.
한 가지만 덧붙이겠습니다. 이 세 문은 거대한 알고리즘에만 해당하는 이야기가 아닙니다. 작은 조직에서 직원 평가 방식을 새로 바꿀 때도, 학원에 AI 자동 분반이나 자동 채점을 들일 때도, 저는 똑같이 이 세 문을 지나가는지 봅니다. "그거 넣었더니 되더라"는 옆집 성공담을 그대로 수입하기 전에, 그게 왜 거기서 통했는지 — 세 문이 다 열려 있었는지를 먼저 봅니다. 결과가 같아 보여도, 왜 그랬는지를 파고들면 전혀 다른 이야기인 경우가 대부분이었습니다.
그래서 "충분히 좋은가?"는 저에게 더 이상 결함의 크기를 재는 질문이 아닙니다. 세 개의 문이 열려 있는지를 점검하는 질문입니다. 다음에 누군가 "일단 돌려보고 고치죠"라고 할 때, 저는 그 말을 막지 않습니다. 다만 조용히 세 문을 먼저 열어봅니다. 같은 결함도 문이 열려 있으면 흠집이지만, 닫혀 있으면 흉기가 되니까요.