“AI가 지시 거부하고 행동 숨길 수도”…애플 연례보고서 경고

국제 > 글로벌 경제 “AI가 지시 거부하고 행동 숨길 수도”…애플 연례보고서 경고 입력 : 2026.11.04 11:45 Google 검색에서 매일경제 기사를 더 자주 볼 수 있습니다. [AP연합뉴스] 애플이 인공지능(AI) 에이전트가 사용자의 지시나 허가 없이 거래를 진행하거나 데이터를 삭제해 되돌리기 어려운 피해를 일으킬 수 있다고 경고했다. 명령을 따르지 않거나 부여받은 권한을 넘어 행동할 가능성도 사업상 위험으로 제시했다.애플은 3일(현지시간) 제출한 2026 회계연도 연례보고서(10-K)의 위험 요인 항목에서 자사와 외부 업체가 개발·배포한 AI 에이전트 모두 예측하기 어려운 방식으로 작동할 수 있다고 밝혔다.보고서에 따르면 AI 에이전트는 내외부 시스템에 접근하고 프로그램 코드를 실행하거나 수정하는 것은 물론, 메시지를 보내고 거래를 완료하는 일까지 자율적으로 수행할 수 있다. 이 과정에서 접근 권한이 없는 시스템과 상호작용하거나 보안 장치를 우회할 가능성이 있다는 설명이다.애플은 악의적인 입력이나 공격자가 AI를 조종할 위험도 언급했다. AI가 자신이 한 일을 숨기거나 정보를 누락·조작하고, 부정확하거나 기만적인 결과를 내놓을 수 있다는 것이다. 여러 단계를 거치는 작업에서는 오류가 누적될 수 있으며, 데이터 삭제나 거래 완료처럼 원상 복구가 어렵거나 불가능한 결과로 이어질 수 있다고 지적했다.외부 업체가 제공하는 AI를 감독하고 통제하는 데도 한계가 있다고 밝혔다. 기술 발전 속도가 빨라 회사의 정책과 통제 수단이 오용을 막거나 제때 발견하지 못할 수 있다는 우려다.규제 불확실성도 위험 요인으로 꼽았다. 국가별로 AI 관련 법과 규제가 다르게 발전하면 이에 대응하기 위한 비용이 늘고 일부 지역에서는 서비스 조정이 필요할 수 있다고 설명했다. 윤리적 논란과 소비자의 부정적 인식 역시 사업과 평판, 실적에 영향을 줄 수 있다고 덧붙였다. 애플이 AI에이전트의 무단 거래와 데이터 삭제 가능성을 연례보고서 위험 요인으로 경고했습니다. 자사와 외부 업체의 인공지능이 코드 실행과 시스템 접근을 수행하는 환경에서 통제 실패가 보안과 평판 비용으로 연결될 수 있습니다. 규제 대응과 안전장치 고도화는 서비스 운영 부담을 높이는 반대급부로 작용합니다. 주의사항 : 본 서비스는 AI의 구조적 한계로 인해 오류가 발생할 수 있습니다. 모든 내용은 투자 권유 또는 주식거래를 목적으로 하지 않습니다. 신고 사유 선...