[창간기획] AI 활용과 의존 기준점, 판단 지원 업무가 적당

사진=게티이미지뱅크 인공지능(AI)이 기업과 기관 업무 전반으로 빠르게 확산되면서 활용 방향에 대한 기준도 정립되고 있다. 단순 반복 업무를 넘어 자료 분석과 의사결정까지 AI에 맡기려는 수요가 커진 반면, 개인정보와 기업 기밀 등 민감정보는 맡기지 않고 최종 판단과 책임은 사람이 가져야 한다는 경계도 뚜렷하게 나타났다. 전자신문이 기업·기관 AI 관리자 143명을 대상으로 한 설문에선 'AI를 사용할 때 프롬프트에 입력하지 않는 정보는 무엇인가'라는 질문에 개인정보·민감정보를 꼽은 응답이 56명(39.2%)으로 가장 많았다. 이어 △미공개 사업계획과 내부 보고서, 계약정보 등 회사·기관 기밀정보가 40명(28%) △계정·비밀번호·API 키·인증서 등 보안정보가 31명(21.7%)으로 뒤를 이었다. △핵심 기술·연구개발 정보는 9명(6.3%) △고객·거래처 등 제3자 정보는 4명(2.8%)으로 나타났다. 특별히 입력을 제한하는 정보가 없다는 응답은 3명(2.1%)에 그쳤다. 질의에 사용된 항목 대부분이 외부 공유 저항감이 큰 것들이지만, 그중에서도 개인의 정보보안 문제를 가장 우선 순위에 두고 있는 셈이다. 'AI에게 맡겨도 된다고 생각하는 업무 범위'에 대한 질문에선 '자료 분석·추천 등 판단을 지원하는 업무까지 맡길 수 있다'는 응답이 56명(39.2%)으로 가장 많았다. 채용·평가·대출심사 등 중요한 의사결정을 보조하는 업무까지 가능하다는 응답도 26명(18.2%)으로 나타났다. 단순·반복 업무만 맡길 수 있다는 응답은 8명(5.6%)에 불과했다. 다만 AI에게 최종 판단까지 맡기는 것에 대한 경계는 큰 것으로 나타났다. '아무리 AI 성능이 높아져도 중요한 최종 판단은 사람이 해야 한다'는 응답이 39명(27.3%)으로 나타났다. 반면 전문가 판단이 필요한 영역에서도 AI가 최종 결정을 내려도 된다는 응답은 6명(4.2%)에 불과했다. 의료·자율주행 등 생명·안전과 직결된 영역에서 일정 범위 내 AI 최종 판단을 허용할 수 있다는 응답도8명(5.6%)에 그쳤다. 'AI 확산 과정에서 중요하게 고려해야 할 윤리적 과제와 안전한 활용 방안'을 묻는 질문에서도 인간의 검증과 책임에 대한 강조가 반복해서 등장했다. 한 응답자는 “AI 시대 핵심 과제는 AI를 얼마나 잘 만들 것인가 보다, 얼마나 신뢰할 수 있게 사용할 것인가”라며 인간의 최종 검증과 AI 리터러시를 강조했다. AI가 사람의 사고를 확장하는 도구...