[HBN뉴스 = 편집국] 기업 이사회에서 인공지능(AI)을 논하는 풍경이 더 이상 낯설지 않다. 생성형 AI를 업무에 어떻게 활용할지, 데이터 분석과 의사결정에 어디까지 접목할지가 새로운 경영 과제다. 불과 몇 년 전만 해도 AI는 IT 부서나 신사업 부서의 기술 이슈로 여겨졌다. 이제는 다르다. AI는 생산성, 비용, 인력, 고객, 투자, 그리고 기업의 위험관리까지 전방위로 영향을 미치는 경영의 문제가 됐다.
이사회의 질문도 달라져야 한다. “우리 회사도 AI를 도입했는가”가 아니다. “우리 회사는 AI를 어디에 사용하고 있으며, 그 결과에 대해서는 누가 책임지는가”여야 한다.
 |
| 임욱빈 한성대학교 교수. [사진=HBN뉴스] |
2026년은 이 질문이 더욱 절실해지는 해다. 올해 1월 22일 시행된 'AI 기본법'은 고위험 AI 사업자·제공자에게 ▲위험관리체계 수립 ▲인간 감독(Human-in-the-Loop) 보장 ▲설명의무·기록보존 ▲사고·고장 신고의무를 법정 의무로 부과하고, 위반 시 전체 매출액 3% 이하 과징금을 부과할 수 있다. 금융위원회 통합 AI 가이드라인(2024년 12월) 역시 모델 검증·데이터 품질·설명가능성을 내부통제 필수 요건으로 못 박았다.
글로벌 시장에서도 EU AI Act 등 투명성·안전성·인간 감독 요구가 법제화되고 있다. AI를 ‘얼마나 빨리 도입했느냐’에서 ‘얼마나 신뢰할 수 있게 관리하느냐’로 경쟁의 축이 이동한 것이다.
사외이사 입장에서 AI는 매력적인 혁신 수단이다. 보고서 작성, 시장 분석, 고객 대응부터 회계·재무, 리스크 분석, 투자 의사결정까지 활용 범위가 급속히 넓어지고 있다. 생산성과 의사결정 속도를 높인다는 점에서 외면하기도 어렵다. 그러나 경계해야 할 선이 있다. AI가 의사결정을 지원하는 것과, 의사결정의 책임까지 AI에 맡기는 것은 전혀 다른 문제다.
AI 분석을 근거로 투자했는데 손실이 나면 누가 책임지는가. AI가 채용 평가에서 특정 집단에 불리한 결과를 내면 기술 오류인가, 경영 책임인가. 생성형 AI가 잘못된 정보를 고객에게 제공했을 때 “AI가 그렇게 답했다”고 면피할 수 있는가. 답은 명확하다. AI는 판단의 도구일 수 있어도, 책임의 주체가 될 수는 없다. 바로 이 지점에서 AI 시대 이사회의 역할이 시작된다.
첫째, 이사회는 기업의 ‘AI 지도(AI Map)’를 꿰고 있어야 한다.
어떤 AI를 어느 업무에 쓰는지, 단순 지원용인지 고객·투자·채용·안전 같은 중요 의사결정 관여용인지를 전사적으로 파악해야 한다. 개별 부서 단위로 확산되면 최고경영진과 이사회가 전체 현황을 모르는 ‘그림자 AI’가 생긴다. 관리되지 않는 AI는 관리되지 않는 위험이다.
둘째, AI 위험을 기존 내부통제·리스크관리 체계 안으로 편입해야 한다.
재무보고, 자금, 개인정보, 사이버보안 등은 오랜 내부통제 시스템이 있다. AI도 모델 오류·데이터 편향·개인정보 유출·지식재산권 침해·보안 문제를 포함한 하나의 경영위험으로 다뤄야 한다. 회계·감사의 기본 원칙인 중요 거래엔 승인, 중요 숫자엔 검증, 중요한 결정엔 책임자가 AI라고 예외일 수 없다. 알고리즘 내부 판단이 불투명할수록 더 높은 수준의 통제·검증이 필요하다. 금융권에서 이미 정착된 ‘모델 리스크 관리(MRM) 3선 방어체계(1선: 개발·운영, 2선: 독립 검증·승인, 3선: 내부감사)’를 AI 모델에도 그대로 적용하면, ‘새 기술이라 별도 관리’라는 논리를 걷어낼 수 있다.
셋째, ‘Human in the Loop(인간 감독 루프)’가 필수적인 영역을 이사회가 선을 긋는다.
모든 AI 결과를 사람이 재검토하면 AI 효용이 줄고, 모든 판단을 AI에 맡기면 책임 체계가 무너진다. 투자·인사·안전·고객 권리 등 이해관계자에게 중대한 영향을 주는 의사결정일수록 인간의 최종 판단을 제도화해야 한다. 그 경계선을 긋는 것이 이사회의 책무다.
넷째, 이사회는 AI의 성과와 위험을 동일한 무게로 평가해야 한다.
지금까지 디지털 전환은 비용절감·생산성(ROI) 중심으로 평가됐다. AI는 오류율·고객 피해·개인정보·보안 사고·잘못된 의사결정 가능성 같은 위험지표를 동일 가중치로 봐야 한다. 이사회가 받아볼 ‘AI 거버넌스 대시보드’에는 비용절감·매출기여, 모델 오류율·편향 탐지율, 개인정보·보안 사고 건수, Human-in-the-Loop 미준수 건수 등이 나란히 표시돼야 한다.
단순 나열을 넘어 각 지표별 ‘레드 플래그 임계치(예: 편향 탐지율 5% 초과, Human-in-the-Loop 미준수 0건 원칙)’를 이사회가 사전 승인하고, 임계치 초과 시 즉시 보고·의결 정지·감사위 자동 회부되는 에스컬레이션 프로세스까지 갖춰야 한다.
다섯째, 지나친 통제로 혁신을 막아선 안 된다.
사외이사 역할은 신기술을 막는 것이 아니라, 기업이 감당할 수 있는 위험 범위 안에서 혁신하도록 감독하는 데 있다. AI 거버넌스의 핵심은 ‘AI를 쓸 것인가 말 것인가’가 아니라 ‘어디까지 맡기고, 어디서부터 사람이 책임질 것인가’를 정하는 것이다.
이를 위해 이사회는 ‘AI 규제 샌드박스·파일럿 거버넌스’를 승인하되, ‘실험→검증·확장→전사 적용’ 각 단계별 위험 수용 한도(Risk Appetite)와 철수 기준(Exit Criteria)을 사전에 의결하도록 해야 한다.
이사회의 전문성에도 변화가 필요하다. 모든 이사가 AI 기술자가 될 필요는 없다. 하지만 재무제표 전 계정을 직접 계산하지 않아도 중요 재무위험을 이해해야 하듯, AI 알고리즘을 직접 개발하지 않아도 그것이 전략과 위험에 미치는 영향을 이해해야 한다. 이사회의 AI 리터러시는 선택이 아니라 기본 감독 역량이다.
기술은 늘 기회와 위험을 함께 가져왔다. AI가 이전과 다른 점은 인간의 ‘판단’ 영역으로 빠르게 들어오고 있다는 사실이다. 따라서 AI 거버넌스는 IT 부서만의 문제가 될 수 없다.
이사회가 기억해야 할 원칙은 단순하다. 권한은 위임할 수 있어도, 책임까지 위임할 수는 없다. AI에게 더 많은 판단을 맡길수록, 기업은 책임의 주체를 더욱 명확히 해야 한다. AI 시대 좋은 이사회는 AI를 가장 많이 도입한 이사회가 아니다. AI가 만들어내는 기회와 위험을 함께 이해하고, 기술의 판단 뒤에 인간의 책임이 남아 있도록 만드는 이사회다. 결국 기업의 지속가능성은 AI를 얼마나 잘 쓰는가보다, 얼마나 책임 있게 쓰는가에 달렸다.
<글쓴이 임욱빈 교수>
- 현 한성대학교 비즈니스컨설팅학과 교수(학과장), ESG 센터장
[저작권자ⓒ HBN뉴스. 무단전재-재배포 금지]
