안드로이드에 탑재될 AI를 위한 새로운 파운데이션
파운데이션 모델(Foundation Models)은 단일 사례에 의해서만 훈련되지 않고 방대한 양의 데이터를 학습해 광범위한 업무에 적용할 수 있는 AI 시스템을 만들어 냅니다. 구글은 오늘 지금껏 알려진 모델 중 가장 유능하고 범용적인 멀티모달 제미나이(Gemini)를 발표했습니다. 제미나이는 데이터 센터부터 모바일 기기에 이르기까지 모든 환경에서 유연하게 작동할 수 있도록 설계되었습니다. 또한 크기나 규모에 맞춰 잘 사용될 수 있도록 울트라(Ultra), 프로(Pro), 나노(Nano)의 세 가지 사이즈로 최적화했습니다.
모바일에 최적화된 제미나이 나노
온디바이스(on-device) 작업에 가장 최적화된 제미나이 나노(Gemini Nano)는 모바일 칩 단에서 직접 실행되어 다양한 사용례를 지원합니다. 온디바이스에서 구동된다는 것은 데이터가 디바이스 외부로 나가지 않는다는 의미로, 예를 들면 종단간 암호화(end-to-end)된 메시징 앱 상에서 답변 메시지를 제안하는 기능 등으로 개발, 활용될 수 있습니다. 또한 확정적 레이턴시(deterministic latency)로 네트워크 연결이 끊겨도 기존의 모든 기능을 그대로 사용할 수 있는 일관된 이용자 경험을 제공할 수 있습니다.
제미나이 나노는 제미나이 모델에서 파생되었으며 모바일 실리콘 액셀러레이터에 최적화되었습니다. 또한 고품질 텍스트 요약, 문맥에 맞는 스마트한 응답, 고급 교정 및 문법 수정을 비롯한 여러 강력한 기능들을 지원합니다. 가령, 제미나이 나노의 향상된 언어 이해력은 픽셀 8 프로(Pixel 8 Pro) 기기가 녹음 앱에 녹음된 내용을 네트워크 연결 없이도 정확하게 요약할 수 있도록 돕습니다.
온디바이스 파운데이션 모델을 위한 새로운 시스템 서비스, 안드로이드 AI코어(Android AICore)
안드로이드 AICore는 제미나이 나노에 쉽게 접근할 수 있도록 하는 안드로이드 14의 새로운 시스템 서비스입니다. AI코어는 모델 관리, 실행 시간, 보안 기능 등을 처리해 앱에 AI를 통합하는 작업을 간소화합니다.
AI코어는 안드로이드의 비공개 컴퓨트 코어(Private Compute Core)의 전례를 따라 개인정보의 철저한 보호를 염두해 설계되었습니다. 오픈소스 API를 통해 네트워크에 연결될 가능성이 원천 차단되고, 투명성과 감사가능성을 제공합니다. 구글은 AI 기술을 책임감 있게 개발하고 배포하기 위한 노력의 일환으로 모든 이용자들이 접근가능하면서도 안전하게 사용할 수 있도록 전용 보안 기능도 추가했습니다.
AI코어는 제미나이 나노를 통해 LoRA(낮은 계수 변환, Low Rank Adaptation)의 미세조정까지 가능하게 합니다. 이 강력한 컨셉으로 앱 개발자들은 자신의 학습 데이터를 통해 소규모의 LoRA 어댑터를 생성할 수 있게 됩니다. LoRA 어댑터는 AI코어를 탑재해 앱의 사용 사례에 따라 강력한 거대언어모델을 미세조정할 수 있습니다.
AI코어는 퀄컴 테크놀로지스, 삼성 S.LSI 그리고 미디어텍처럼 구글 TPU(텐서 처리 장치)와 NPU(신경망 처리 장치)와 같은 새로운 머신러닝 하드웨어의 장점을 십분 활용합니다. AI코어와 제미나이 나노는 픽셀 8 프로에 탑재될 예정이며 다수의 기기 제조사와 실리콘 파트너사들도 수개월 안으로 발표될 예정입니다.
제미나이로 개발하세요
구글은 최첨단의 AI 연구와 사용하기 용이한 툴과 API로 안드로이드 개발사들이 제미나이 온 디바이스를 함께 만들어낼 수 있다는 점을 기쁘게 생각합니다. 제미나이 나노가 궁금하시다면 얼리 액세스 프로그램에 신청하세요.
