컴퓨터소프트웨어과 안해리 교수님

신구대학교 교정에는 앞발을 힘차게 들어 올린 백마상이 서 있다. 백마체전 때면 학생들이 운동장에 모여 뛰고 응원한다. 요즘 나는 그 백마상 앞을 지날 때마다 인공지능을 떠올린다. 지금의 AI야말로 힘세고 빠르지만 아직 다 길들여지지 않은 말을 닮았기 때문이다.

몇 년 전만 해도 AI는 질문 하나에 답 하나를 돌려주는 도구였다. 그런데 이번 학기에 나는 데이터를 정리하고 통계를 돌리는 일을 AI에게 맡겨 보았다. AI는 데이터를 읽고 분석 코드를 짜서 실행하고 결과까지 도출해 냈다. 내가 한 일은 처음에 무엇을 분석할지 설명하고 중간중간 결과를 확인한 것뿐이었다. 이렇게 여러 단계를 스스로 처리하는 AI를 ‘AI 에이전트’라고 부른다.

AI가 통계 분석을 끝냈을 때 처음에는 감탄을 했다. 결과가 이렇게 금방 내 눈앞에 나온다는 게 신기했다. 그런데 결과를 들여다보다 보니 내가 원하는 분석과는 다르게 진행된 부분이 있었다. AI는 일을 빠르게 끝냈지만 그 일이 제대로 된 것인지는 결국 내가 판단해야 했다.

이런 일은 비단 나만 겪는 것이 아니다. AI의 성능도 중요하지만, 어떻게 일을 맡기고 어떤 환경에서 일하게 하느냐에 따라 결과가 크게 달라진다. 최근 소프트웨어 업계에서 주목받는 ‘하네스 엔지니어링’도 이런 고민에서 출발한다.

하네스(harness)는 본래 말에 채우는 마구, 곧 고삐와 안장과 굴레를 뜻한다. 마구를 채운 말은 맡은 역할대로 수레를 끌거나 사람을 태운다. AI의 하네스도 마찬가지다. 쉽게 말해 AI가 일할 판을 짜 주는 것이다. 참고할 자료와 지켜야 할 규칙 그리고 해서는 안 되는 일을 알려 준다. 일이 끝나면 결과가 기준에 맞는지 확인하는 단계도 넣는다. 그리고 AI가 실수하면 AI에게 화를 내기보다 같은 실수가 안 나오게 일하는 환경 자체를 고친다.

마구를 채웠다고 일이 끝나지는 않는다. 고삐를 쥔 사람이 있어야 한다. 일의 흐름 속에 사람의 판단을 넣어 두는 것, 이를 ‘휴먼 인 더 루프(Human-in-the-Loop)’라고 한다. AI가 하는 일을 처음부터 끝까지 지켜보라는 말이 아니다. 말이 잘 달릴 때는 맡겨 두더라도 엉뚱한 방향으로 달리려 할 때는 고삐를 당겨야 한다. 내 통계 분석에서도 고삐를 당겨야 했던 순간은 계산 도중이 아니라 결과를 확인할 때였다. 돈이 나가거나 자료가 삭제되는 것처럼 되돌릴 수 없는 일이라면 더더욱 사람이 확인해야 한다.

개발자에게만 해당하는 이야기도 아니다. 간호사는 처치하기 전에 환자의 이름을 반복해서 확인하고 어린이집 선생님은 아이를 보호자에게 인계하기 전에 신원을 확인한다. 그리고 회사에서는 최종 결정권자가 마지막으로 확인한다. 어느 분야든 결정적인 순간에 사람이 판단하는 자리를 이미 만들어 두고 있다. AI와 함께 일할 때도 그 자리를 어디에 둘지 미리 정해 두면 된다.

그래서 학생들에게 자기 전공의 일을 말로 풀어 설명하는 연습을 해 보라고 하고 싶다. 개발자들은 업무에 적용되는 규칙과 처리 조건을 ‘비즈니스 로직’이라고 부른다. 자기 분야의 일이 어떤 규칙에 따라 돌아가는지 이해하고 설명할 수 있어야 AI에게도 제대로 일을 맡길 수 있다. 그리고 어디까지 맡기고 어디서 내가 직접 볼지 스스로 정해 보았으면 한다. AI가 만든 결과라도 내 이름으로 내는 순간 내 일이 된다. “AI가 그렇게 하라고 했는데요”라는 말로 책임을 피할 수는 없다.

신구대학교 건학이념은 ‘성실·근면·정직’이다. 익숙한 말이지만 AI와 함께 일하는 지금 다시 읽으면 무겁게 다가온다. AI에게 맡기기 전에 내 분야의 일을 먼저 익혀 두는 것이 근면이고 그럴듯한 결과를 그냥 넘기지 않고 끝까지 확인하는 것이 성실이며 확인하지 않은 것을 확인했다고 말하지 않는 것이 정직이다.

AI는 앞으로 더 빠르고 파워풀한 말이 될 것이다. “AI가 다 대체할 텐데요”라며 좌절할 필요는 없다. 마구를 채우고 고삐를 쥐는 법을 익히면 된다. 오늘도 백마상 앞을 지나는 학생들에게 묻고 싶다. “여러분은 AI라는 말에 끌려가고 있다고 생각하나요? 고삐를 쥐고 달리고 있다고 생각하나요?”