무슨 일이 있었나

카카오는 10월 15일 새 AI 윤리 원칙을 발표했습니다. 10월 13일 개발자 콘퍼런스에서 처음 공개한 내용입니다. 윤리 원칙 ‘스피릿(SPIRIT)’은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성의 6개 원칙으로 이루어져 있습니다. 실행 체계 ‘노르마(NORMA)’는 조직 전체가 이 원칙을 함께 책임지고 실행하도록 관리하는 방식입니다.

이번 원칙은 AI 에이전트를 주로 다룹니다. AI 에이전트는 질문에 답하는 데 그치지 않고 스스로 계획을 세워 행동하는 AI입니다. 카카오는 에이전트의 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용의 5개 영역으로 나누고, 인간 감독과 비상 제어 장치를 두었습니다. 원칙은 7월에 출범한 외부 자문단 7명과 사내 AI 세이프티·개인정보·보안 조직이 함께 만들었고, 8월에 제정된 ‘대한민국 AI 윤리 원칙’을 기준으로 삼았습니다.

왜 윤리 문제인가

챗봇이 틀린 답을 내면 사람이 그 답을 쓰지 않으면 됩니다. 에이전트는 다릅니다. 직접 결제하고, 메시지를 보내고, 예약을 바꿉니다. AI가 판단하고 실행하는 사이에 사람이 끼어들 틈이 줄어듭니다. 그래서 AI에게 어디까지 권한을 줄 것인가가 문제가 됩니다.

책임 소재도 문제입니다. 에이전트가 결제를 잘못했을 때 사용자, 개발사, 운영사 가운데 누가 책임지는지 아직 분명하지 않습니다. 카카오는 최종 통제권을 사람에게 남겨야 한다고 보고 비상 제어 장치를 두었습니다.

수업에서 쓰는 법

요나스의 책임 윤리로 사례를 분석합니다. 요나스는 기술의 힘이 커질수록 그 결과를 미리 내다보고 최악의 경우부터 고려해야 한다고 보았습니다. 길벗 교과서 두 종에 실린 요나스의 원문을 함께 읽고 시작합니다.

행위자는 자신의 행위에 책임을 져야 한다. 비록 원인이 악행이 아니었다 해도, 그리고 결과가 예정되거나 의도된 것이 아니라고 해도 저지른 피해를 보상해야 한다.

아직 존재하고 있지는 않지만 존재할 것으로 기대되는 미래 세대의 권리에 관하여 우리는 응답할 의무가 있다. 이런 의무 때문에 심각한 결과를 가져올 수 있는 행위를 할 때 우리는 그들에 대해 책임을 져야 한다.

칠판에 5개 위험 영역을 적고, 영역마다 “AI가 혼자 결정해도 되는 일”과 “반드시 사람이 확인해야 하는 일”을 모둠별로 나눠 봅니다. 아래 표의 예시 한 줄을 보여 주고 나머지 칸은 학생이 채웁니다.

활동지 예시 · AI 비서에게 무엇을 맡길까

위험 영역	AI가 혼자 결정해도 되는 일	사람이 확인해야 하는 일
권한	장바구니에 상품 담기	결제 승인, 카드 등록
통제 주도권
목표
참조 자원
상호작용

첫 줄은 예시입니다. 모둠별로 채운 뒤 요나스의 원문에 비추어 "사람이 확인해야 하는 일"을 고른 이유를 발표합니다.