By KATE O'FLAHERTY, WIRED US

2024년 6월 10일(현지 시각), 애플은 WWDC 현장에서 애플 인텔리전스(Apple Intelligence)와 함께 다소 늦은 감이 있으나 중요한 변화를 발표했다. 애플 인텔리전스 공개는 애플이 오픈AI와 협력하여 아이폰에 챗GPT 기능을 지원할 것이라는 몇 달간 확산된 소문을 확인시켜주는 역할을 했다.

오픈AI 공동 창립자 중 한 명인 일론 머스크는 X(구 트위터)에서 애플 인텔리전스 공개 소식에 발 빠른 반응을 보이면서 챗GPT를 바탕으로 역량을 갖춘 애플 AI 툴을 ‘소름 끼치는 스파이웨어’, ‘용납할 수 없는 보안 위반 사항’이라고 비판했다.

머스크는 “애플이 운영체제 단계에서 오픈AI 기술을 통합한다면, 내가 운영하는 기업에서 애플 기기를 금지할 것이다”라고 게재했다.

AI의 프라이버시 문제가 집중 조명을 받는 현재 애플은 애플 인텔리전스가 새로운 사용자 데이터 보호 방식을 제공하며, 애플은 기기 자체에서 핵심 작업을 처리할 수 있도록 작업을 진행한다.

그보다 더 복잡한 작업 요청을 처리하고자 애플은 자사 실리콘 서버에서 운영하는 클라우드 기반 시스템인 ‘프라이빗 클라우드 컴퓨트(Private Cloud Compute)’를 개발했다. 애플은 프라이빗 클라우드 컴퓨트를 이용한 작업 처리 방식이 새로운 AI 시대에 프라이버시를 보호할 혁신적인 방법이라고 주장한다.

크레이드 페더리기(Craig Federighi) 애플 소프트웨어 엔지니어링 수석 부사장은 애플의 AI 프라이버시 전략을 “AI 프라이버시의 새로운 표준”이라고 칭했다. 애플의 주장이 유효한 주장이라면, 삼성 갤럭시 시리즈를 포함한 여러 안드로이드 기기에서 지원하는 하이브리드 AI(hybrid AI)에 맞설 애플의 전략은 무엇일까?

E2E 만난 AI
애플은 프라이빗 클라우드 컴퓨트와 함께 사용자의 아이폰에 새로운 단 대 단 AI 아키텍처와 프라이빗 클라우드 인클레이브 확장 툴을 개발했다. 실시간 감시 영상 저장 및 분석 특화 기업인 디지털 배리어스(Digital Barriers) CEO 작 도프만(Zak Doffman)은 애플이 프라이빗 클라우드 컴퓨트와 함께 새로 개발한 툴이 데이터를 추가로 관리하도록 한다고 설명했다.

실질적으로 애플이 AI 명령어의 기원을 숨기고, 애플 자체를 포함한 그 누구도 사용자 데이터에 접근하지 못하도록 막는다. 도프만은 “이론상 사용자가 접할 수 있는 클라우드 AI의 단 대 단 암호화 기술과 가깝다”라고 말했다.

인럽트(Inrupt)의 최고 보안 아키텍처 책임자 브루스 슈나이어(Bruce Schneier)는 애플이 자사 AI의 매우 인상적인 프라이버시 시스템을 위해 다양한 기술을 적용했다고 평가했다. 그는 “클라우드 자체에서도 애플의 AI 사용 목표는 스마트폰의 보안보다는 보안 수준이 떨어지지 않도록 하는 것이다”라고 말했다.

지금까지 애플의 AI 프라이버시 시스템과 같은 시스템은 없다. 구를 안드로이드를 운영체제로 택한 삼성 갤럭시 라인업과 구글 나노에 적용된 하이브리드 AI는 일부 AI 작업을 기기 자체에서 처리하고, 고급 작업을 실행할 필요가 있을 때는 클라우드를 활용한다.
 
IT 거버넌스 기업 GRC 인터내셔널 그룹(GRC International Group) AI 책임자 캠든 울벤(Camden Woollven)은 클라우드를 활용한 고급 AI 기반 작업 처리가 프라이버시를 최대한 보호하는 동시에 강력한 AI 기능을 제공하는 것이라고 전했다. 그는 “앞으로 중급 스마트폰을 사용할 때도 첨단 AI를 접할 수도 있다는 의미이다”라고 언급했다.

하이브리드 AI의 작업 처리 과정은 위험을 제기할 수 있다. 애플이 프라이빗 클라우드 컴퓨트를 이용한 작업 거리 기능 제공 시 클라우드 서버로 일부 데이터를 전송하기 때문이다. 기술 중심 강좌를 제공하는 기관인 오픈 인스티튜트 오브 테크놀로지(Open Institute of Technology) 창립자 겸 소장 히카르도 오클레포(Riccardo Ocleppo)는 “하이브리드 AI를 채택하면서 일부 데이터는 기기를 벗어나 다른 곳에서 처리해야 한다. 이 때문에 데이터 탈취나 악용 문제에 더 민감해진다”라고 설명했다.

그러나 구글과 구글 하드웨어 협력사는 프라이버시와 보안이 안드로이드 AI 접근방식의 주된 초점이라고 주장한다. 삼성전자 모바일 익스피리언스 비즈니스 보안팀 책임자인 저스틴 최(Justin Choi) 부사장은 삼성이 택한 하이브리드 AI가 사용자의 개인 데이터 관리 권한과 저하되지 않은 프라이버시를 제공한다고 주장했다.

최 부사장은 클라우드에서 처리하는 AI 기능을 엄격한 정책으로 관리하는 서버로 보호한다고 설명했다. 그는 “삼성 기기 자체에서 지원하는 AI 기능은 클라우드 서버에 의존하지 않고, 데이터를 기기에 저장하거나 클라우드에 게재하는 일 없이 기기 자체에서 작업을 처리하면서 보안의 다른 요소를 제공한다”라고 말했다.

구글은 자사 데이터 센터에 물리적 보안, 접근 제어, 데이터 암호화 등 강력한 보호 조처가 설계되었다고 밝혔다. AI 작업 요청을 클라우드에서 처리할 때 데이터는 구글 데이터 센터 아키텍처에 안전하게 보관되며, 구글은 외부 기관으로 정보를 일절 전송하지 않는다.

반면, 갤럭시의 AI 엔진은 기기 자체 작업 처리 시 생성되거나 사용한 사용자 데이터를 훈련 데이터로 사용하지 않는다. 최 부사장은 기기에서 AI 기능을 실행할 때 갤럭시 AI 상징을 보여주면서 AI 기능을 실행한다는 사실을 명시하며, 삼성은 콘텐츠에서 생성형 AI를 사용할 때 워터마크를 추가한다고 전했다.

삼성은 신규 보안 및 표준 옵션인 ‘어드밴스드 인텔리전스(Advanced Intelligence)’ 설정을 도입했다. 사용자에게 클라우드 기반 AI 기능 비활성화 선택권을 부여하기 위한 선택이다.

구글은 사용자 데이터 프라이버시 보호라는 오랜 역사를 보유했다고 주장하면서 기기 자체와 클라우드에서 실행하는 AI 기능의 프라이버시도 마찬가지라고 주장했다. 수잔 프레이(Suzanne Frey) 구글 제품 신뢰 부사장은 “구글은 통화 기록 살펴보기 등과 같은 민감한 사용 사례를 위해 데이터가 기기를 절대로 벗어나지 않는 기기 자체 모델을 활용한다”라고 말했다.

프레이 부사장은 구글 제품이 자사 클라우드 기반 모델에 의존하는 방식을 설명하면서 사용자가 요약하고자 하는 민감 정보와 같은 소비자 정보는 처리 작업을 위해 외부 기관으로 전송하는 일이 절대로 없다고 전했다.

이어, “구글은 사용자 정보 보안 수준과 프라이버시가 설계 단계에서부터 기본 설정되었다는 점에서 사용자가 신뢰할 수 있는 AI 기반 기능 개발에 계속 헌신한다. 또한, 업계에서 최초로 옹호한 구글의 책임감 있는 AI 원칙을 따른다”라고 덧붙였다.

AI 프라이버시 전략 대화를 바꾼 애플
데이터 처리를 위해 단순히 하이브리드 접근 방식을 연결하는 대신 전문가는 애플의 AI 전략이 AI 프라이버시 전략이라는 대화의 본질을 바꾸었다고 본다. 도프만은 “누구나 기기 자체에서 프라이버시를 우선 적용하는 접근 방식을 기대한다. 애플이 실제로 이를 지원하면서 AI로 처리하는 작업이나 AI 작업을 처리하는 공간이 아닌 처리 방법이 중요해졌다”라며, “스마트폰 AI 프라이버시 전반의 최고의 프라이버시 보호 관행을 정의할 수도 있을 것이다”라고 평가했다.

하지만 애플도 AI 프라이버시 전쟁에서 아직 승리한 것은 아니다. 애플이 특색 없이 자사 iOS 생태계를 외부 공급사에 제공하게 된 오픈AI와의 협력 관계는 프라이버시 보호라는 주장을 약화하는 요소가 될 수 있다.

애플은 오픈AI와의 협력이 아이폰 보안을 저하한다는 머스크의 주장에 반대하며, 챗GPT에 접근하는 사용자를 위해 프라이버시 보호 기능을 기기 자체에 설계했다고 설명했다. 애플은 챗GPT와 사용자 정보를 공유하기 전 사용자에게 허가를 요청할 것이라고 전했다. 동시에 IP 주소를 식별할 수 없도록 가려서 오픈AI가 사용자의 요청을 볼 수 없도록 한다고 덧붙였다. 그러나 챗GPT의 데이터 사용 정책은 그대로 적용한다.

애플이 타사와 협력한 일은 이례적인 행보이다. 그러나 보안 기업 이셋(ESET)의 글로벌 사이버 보안 자문가인 제이크 무어(Jake Moore)는 애플이 오픈AI와의 협력을 결정한 것이 가볍게 생각하여 결정한 사안이 아니라고 언급했다. 오픈AI와의 협력에 따른 정확한 프라이버시 여파는 아직 확실하지 않지만, 무어는 일부 개인 데이터를 애플과 오픈AI 양측이 수집하고는 오픈AI가 분석할 가능성을 인정했다.

슈나이어는 일부 데이터가 오픈AI의 규정 적용 대상에 해당한다는 의미라고 설명했다. 그는 “애플은 오픈AI에 질문을 전송할 때 식별 정보를 가리지만, 여러 질문에는 식별 정보가 많다”라고 언급했다.

테크 컨설팅 기업 위스덤 웍스 그룹(Wisdom Works Group) 창립자 겸 AI 교수인 앤디 파도(Andy Pardoe) 교수는 애플과 오픈AI의 협력이 AI 세계 전반의 책임감 전체를 재구성할 수 있다고 본다. 그는 “애플과 오픈AI의 협력 관계는 여러 기관의 전체 영역에 책임감을 분배하면서 상호연결 시스템의 성공과 잠재적인 실패를 위해 책임감을 부여하는 방식에 영향을 미친다”라고 전했다.

AI 기술을 테크 업계 대기업 운영체제에 통합할 때 고려할 보안 위험도 존재한다. 도프만이 지적한 바와 같이 애플 인텔리전스는 적어도 이론상 훌륭하지만, 애플의 AI 툴이 그동안 발견된 적이 없는 거대한 공격 표면을 생성할 수도 있다. 도프만은 “다양한 보안 혁신을 대거 활용하면서 새로운 목적을 위해 새로이 적용하는 기능에 결합한다. 따라서 효과가 있다면, AI 분야의 판도를 뒤바꿀 수 있을 것이다. 그러나 애플이 다루어야 할 문제가 발생할 수도 있다”라고 설명했다.

애플과 구글이 자사 AI 솔루션의 허점을 찾도록 보안 연구원을 독려하는 이유이다. 구글 시큐어 AI 프레임워크(Secure AI Framework)는 구글의 보안 분야 계열사인 맨디언트(Mandiant)의 테스트를 AI 모델 방어 사항으로 본다.

애플 대변인은 자사의 책임감 있는 AI 개발 접근 방식을 상술한 프라이빗 클라우드 컴퓨트 보안 백서 링크와 모델 백서 링크를 공유했다. 애플은 오픈AI와의 협력이나 잠재적 보안 위험성 관련 프라이버시 우려 사항 추가 질문에 공개 답변을 보내지 않았다.

애플은 프라이빗 클라우드 컴퓨트에 내부에서 ‘검증 가능한 투명성’이라고 칭하는 모델을 사용한다. 애플은 프라이빗 클라우드 컴퓨트를 소개하는 내용의 블로그 게시글에 “보안, 프라이버시 연구원의 프라이빗 클라우드 컴퓨트 소프트웨어 조사, 기능 검증이 가능하면서 문제를 식별하도록 도움을 준다는 점을 보장하고자 한다”라고 기술했다. 이에, 애플은 보안 연구원이 공개적으로 접근할 수 있는 프라이빗 클라우드 컴퓨트의 모든 제품 개발 사항의 소프트웨어 이미지를 생성한다.

애플 인텔리전스는 챗GPT와 함께 2024년 하반기 중으로 배포될 iOS 18 소프트웨어 업데이트에 통합될 예정이다. 애플 인텔리전스 전체 기능은 2024년 가을 중으로 출시되는 아이폰 16 라인업에 적용된다. 사용자는 애플 인텔리전스 활성화 혹은 비활성화를 선택할 수 있다. 그러나 어느 기기에서든 AI 기능을 사용하고자 한다면, 프라이버시와 보안 여파를 고려해야 한다.

iOS와 안드로이드 사이에서 선택할 때는 어느 기업을 신뢰하느냐가 관건이다. 파도 교수는 프라이버시 기능과 데이터 관리 관행, 투명성 측면에서 운영체제의 전체 장단점을 평가할 것을 권고한다. 즉, 파도 교수가 설명한 바와 같이 애플의 강력한 프라이버시 초점은 데이터 보안을 가장 중요하게 생각하는 사용자에게 핵심 강조 사항으로 남을 것이라는 의미이다.

** 위 기사는 와이어드US(WIRED.com)에 게재된 것을 와이어드코리아(WIRED.kr)가 번역한 것입니다. (번역 : 고다솔 에디터)

<기사원문>
How Apple Intelligence’s Privacy Stacks Up Against Android’s ‘Hybrid AI’