Apple과 그들의 인공지능 분야에서의 다음 큰 도약을 둘러싼 대화가 뜨거워지고 있으며, AppleLLM이라는 용어는 이미 쿠퍼티노의 복도에서 큰 반향을 일으키고 있습니다. 신뢰할 수 있는 누출, Apple Intelligence의 획기적인 발견 및 시리의 완전한 변신모든 것은 Apple의 자체 언어 모델이 그 어느 때보다 현실이 되고 회사 전략의 핵심 부분이 될 것이라는 사실을 보여줍니다.
소음 너머로 기술 데이터, 제품 결정, 심지어 학문적 비판까지 쌓여서 복잡한 그림을 그리고 있습니다. Apple은 자사 플랫폼을 개발자들에게 공개하고, 검증 가능한 개인정보보호를 약속하며, 제3자 파트너십을 모색하고 있습니다.동시에 과제의 어려움을 인정합니다. 현재의 LLM은 작업이 더 복잡해지면 제대로 작동하지 못하고 잘 설계된 기존 알고리즘을 대체할 수 없습니다.
AppleLLM: 우리가 알고 있는 것과 그것이 지금 나오는 이유
마크 거먼이 인용한 블룸버그 소식통에 따르면, 애플은 이미 자사 어시스턴트에 통합된 LLM을 내부적으로 테스트 중이며, 직원들이 팀에 직접 피드백을 제공하고 있다고 합니다. 이러한 노력은 Ajax 프로젝트와 일반적으로 AppleGPT라고 불리는 프로젝트에 적합합니다., 허용할 경로 Siri가 쿼리를 평가합니다 복잡성이 요구될 경우 이를 두 번째 모델로 도출합니다.
유출된 정보를 통해 제시된 로드맵은 두 가지 명확한 이정표를 보여줍니다. 현 세대 시스템에서의 개편된 Siri와 더욱 야심찬 차기 버전입니다. 먼저 우리는 다음을 볼 것입니다. 문맥을 이해하는 Siri 그리고 어리석은 재시작 없이 체인을 요청합니다.로컬 허가를 받아 메시지나 이메일을 읽고 유용한 데이터를 추출할 수 있는 기능을 갖추고 있으며, 나중에는 LLM 자체를 대화형 백본으로 통합한 버전이 출시될 예정입니다.
거먼은 마지막 순간의 변경 사항이 없다면 iOS 2026가 출시되는 시점인 19년 봄쯤에 다음 큰 변화가 있을 것으로 예상합니다. Apple이 WWDC에서 비전을 미리 공개하고 몇 달 뒤에 이를 실행하는 것은 처음이 아닙니다.2024년에 발표되어 추가 개선을 위해 연기된 Siri의 경우와 마찬가지입니다.
Apple Intelligence Today: 아키텍처, 크기 및 전문성
AppleLLM이 성숙해짐에 따라, 회사는 이미 일상 업무에 초점을 맞춘 모델 세트로 Apple Intelligence를 운영하고 있습니다. 약 3.000억 개의 매개변수를 갖춘 온디바이스 모델이 있고, 클라우드에는 더 큰 규모의 모델이 있습니다.재생 에너지로 구동되는 Apple Silicon 서버에서 실행됩니다. 기기에서 발생하는 대부분의 요청을 처리하고, 부하가 증가하면 프라이빗 클라우드로 확장하는 것이 목표입니다.
Apple은 2023년부터 자사의 오픈소스 머신 러닝 프레임워크인 AXLearn을 사용해 훈련을 실시했으며, AppleBot이 수집한 라이선스 데이터와 공개 콘텐츠를 활용했다고 밝혔습니다. 해당 회사는 개인 사용자 데이터를 사용하지 않고, PII 필터를 적용하며, 불필요한 정보와 중복 데이터를 삭제한다고 주장합니다.또한 편집자가 제외를 요청할 수 있는 메커니즘도 제공합니다.
최적화 과정에서 로컬 모델은 49K 토큰의 어휘를 사용하고 서버 모델은 100K로 늘리며, 지연 시간을 줄이기 위해 메모리를 줄입니다. 이 서비스는 글쓰기, 요약, 브레인스토밍, 분류, 폐쇄형 및 개방형 QA, 프로그래밍, 추출, 수학적 추론, 보안 및 다시 쓰기를 위한 어댑터와 같은 전문가에게 중점을 둡니다.다른 중.
IFEval(지침 따르기)과 같은 Apple에서 선택한 벤치마크에서 해당 모델은 비슷한 크기의 동종 모델과 동일하거나 더 뛰어나며 서버 측의 GPT‑4 Turbo 및 Mistral 8x22B와 비교 특정 작업에 적합합니다. 그럼에도 불구하고 Apple은 자사의 접근 방식이 매우 집중적이며 현재 완전한 멀티모달리티를 자랑하지 않는다는 점을 인정합니다. 텍스트와 음성은 있지만, 업계의 다른 서비스처럼 비디오는 없습니다.
개인 정보 보호 설계: 프라이빗 클라우드 컴퓨팅 설명
기기가 더 이상 처리할 수 없게 되면 Apple의 프라이빗 클라우드 프레임워크인 Private Cloud Compute가 활용됩니다. 이는 종단 간 암호화, 일시적 처리, 상관관계가 없는 난수 식별자를 약속합니다.외부 감사가 없고 직원에게 특별 특권이 없습니다.
회사는 데이터가 사용자가 요청한 목적으로만 사용되고 내부 직원에게 공개되지 않도록 보장합니다. 또한 안전을 위해 타사 구성 요소를 사용하지 않으며 진단용 원격 측정을 제한합니다. 높은 수준의 개인정보 보호 옵션을 제공합니다. 이 모든 것은 검증된 센터에서 자체 칩을 사용하고 연구자들의 검증 가능성을 강조하는 방식으로 이루어집니다.
시리: 현재의 난항에서 더 나은 미래를 향한 버전으로
현 세대 시스템에 이미 등장한 Siri는 명령의 맥락과 순서를 더 잘 이해할 것을 약속합니다. 마침내 스레드를 잃지 않고 간단한 요청을 연결하고 로컬 개인 데이터에 대한 실제 조수 역할을 할 수 있게 되었습니다.: 메시지, 이메일, 이벤트는 항상 사용자가 제어할 수 있습니다.
하지만 Apple이 해소하는 허점이 하나 있습니다. 임계값을 초과하는 쿼리의 경우 Siri는 명시적인 허가를 받아 ChatGPT를 호출할 수 있습니다. 통합은 언제나 동의를 존중하고, IP를 숨기며, 새로운 계정을 요구하지 않습니다.Apple은 사용자 확인을 통해서만 개인정보 보호정책 위반이 처벌받을 수 있다고 강조합니다.
다른 참여자에게도 문이 닫혀 있지는 않습니다. 크레이그 페더리기는 앞으로 Google Gemini나 다른 공급업체를 통합할 수 있는 옵션도 열어두었습니다. 이는 중국과 같은 시장이나 ChatGPT를 사용할 수 없는 상황에서 유연성을 제공합니다.중기적으로 자체 모델을 포기하지 않고도 가능합니다.
WWDC 및 개막: Apple은 AI를 단독으로 추진하고 싶지 않습니다.
WWDC를 앞두고 Apple은 주요 움직임을 준비하고 있습니다. 바로 AI를 크로스 에코시스템 플랫폼으로 개방하는 것입니다. 툴킷 이전에는 내부 팀에만 제공되던 기능이 개발자에게 전달될 예정입니다.개인 정보를 존중하면서 로컬로 실행할 수 있는 경량 모델을 제공합니다.
App Store와의 유사점은 명확합니다. 타사가 경험을 창조할 수 있게 되자 iPhone이 플랫폼으로 부상했습니다. 이제 목표는 개발자가 타사 모델로 마이그레이션하는 것을 방지하고 개발자가 네이티브 스마트 경험을 더 쉽게 구축할 수 있도록 하는 것입니다. Apple의 Foundation Models를 사용하면 무료 추론 및 오프라인 옵션을 활용할 수 있습니다.
목표에는 경쟁자와 동등한 수준으로 기준을 높이고, 실제 피드백을 통해 배우고, 제품 출시를 가속화하는 것이 포함됩니다. Swift의 어시스턴트로 Claude와 같은 타사 모델을 사용하는 것도 고려되고 있습니다.이는 Apple이 개발자 툴박스에서 실용주의를 지향하려는 의지를 강조하는 것입니다.
곧 출시되는 기능: 라이브 번역부터 시각적 지능까지
Apple Intelligence는 그저 허울 좋은 허울이 아닙니다. iOS, iPadOS, macOS의 특정 기능에서 이미 나타나고 있습니다. 실시간 번역을 사용하면 음성 및 영상 통화에서 실시간 번역이 가능합니다.메시지, FaceTime, 전화와 통합되어 있으며, 모두 현지 모델에서 지원됩니다.
Image Playground는 허가 하에 개발자 API와 ChatGPT와의 통합을 발전시키는 반면 Genmoji는 허용합니다. 더욱 미묘한 차이로 자신을 표현하기 위해 조합과 설명을 만들어 보세요.마법의 지팡이를 사용하면 몇 번만 탭하면 스케치를 이미지로 바꿀 수 있습니다.
생산성 측면에서 알림 기능은 이메일이나 메모를 읽을 때 관련 작업을 감지합니다. 카테고리별로 자동 정렬. 적절한 경우 여론조사를 만들 것을 제안하는 메시지메일에서는 미리보기 기능이 개선되었고, 집중 모드에서는 방해 관리 기능이 더욱 정교해졌습니다.
우선 알림도 도착합니다. 자연어 검색 사진 앱에서 간단한 설명과 함께 추억의 영상을 생성하는 옵션도 있습니다. Apple Watch에서는 운동 친구 개인화된 실시간 동기 부여를 위해 심박수, 페이스, 거리, 링, 이정표를 활용합니다. 처음에는 영어로 제공되며 러닝머신이나 자전거 운동에 사용할 수 있습니다.
Visual Intelligence는 화면에 상황에 맞는 강력한 기능을 추가합니다. 원하는 제품을 캡처하고 가격과 기능을 입력하여 유사한 제품을 주문합니다. 한 번의 탭으로 콘서트 포스터를 캘린더 이벤트로 전환하세요; 또는 카메라나 액션 버튼을 탭하여 해당 위치에서 즉시 데이터를 추출할 수 있습니다.
창작자를 위한 기초: 기초 모델과 확장을 향한 길
개발자에게 Foundation Models는 Apple 모델을 타사 앱에 연결하는 공식 게이트웨이가 될 것입니다. Apple Intelligence에서 사용하는 동일한 LLM에 대한 우선 액세스, 개인 정보 보호 설계 및 오프라인 실행 가능하다면 운영 비용 없이 AI 추론을 구현합니다.
이 전략은 두 가지 측면에서 설득력이 있습니다. 외부 대안과 비교하여 토착적이고 개인적인 역량을 제공하는 것과 생태계의 독창성 덕분에 Apple Intelligence의 도달 범위를 확대합니다.Apple Developer Program 베타 버전이 현재 진행 중이며, 공개 베타 버전이 나온 후 가을에 지원되는 기기에 출시될 예정입니다.
LLM 패러다임에 대한 심각한 비판: 복잡성의 벽
제품 스토리와 병행하여 Apple은 논쟁을 불러일으키는 연구를 발표했습니다. 추론 능력을 정량화할 때 LLM이 관찰됩니다. 특정 복잡성 한계를 넘어서는 붕괴컴퓨팅 리소스가 풍부한 경우에도 마찬가지입니다.
이 비판은 2023년 이후 여러 공동 저자의 이전 작업과 일치합니다. 형식적이고 추상적인 추론 없이는 신뢰할 수 있는 에이전트를 구축할 수 없습니다. 충분히 발전했습니다. 이러한 분석에 따르면, 위대한 모델은 인간처럼 사고하지 않습니다. 오히려 더 많이 생각할 수는 있지만… 한계가 있습니다.
하노이탑이 대표적인 예입니다. 알고리즘으로는 쉽게 풀 수 있고, 인내심 있는 아이에게는 충분히 가능한 고전적인 문제이지만, Claude와 같은 최신 모델은 7개의 디스크로 고정되고 8개로 사실상 실패합니다.o3‑min on high와 같은 최근의 변형조차도 이러한 테스트에서 크게 개선되지 않았습니다.
더욱 충격적인 점은 과제를 해결하기 위한 단계별 알고리즘이 제공되었지만, 모델은 실행이 잘 안 되는 경향이 있습니다공동 저자인 이만 미르자데는 관찰된 내용이 논리적 과정이나 지능의 한 형태와 유사하지 않다고 지적합니다. 실행이 이해가 아니기 때문입니다.
이 작품은 또한 수바라오 캄밤파티의 사고의 사슬과 소위 추론 모델에 대한 비판을 수용하고 강화합니다. CoT는 때때로 모델의 실제 동작을 반영하지 못할 수 있으며, CoT가 옳아 보이더라도 최종 답은 그렇지 않을 수 있습니다.구조적 단축법으로서의 추론 시간 계산 기술도 의문시된다.
운영상의 결론은 심각합니다. LLM은 간단한 것에 대해 너무 많이 생각하고 올바른 답을 찾은 후에도 잘못된 답을 시도하는 경향이 있습니다. 어려움에 직면하면 생각이 덜해진다한편으로는 계산을 낭비하고, 다른 한편으로는 너무 일찍 포기하는 것입니다.
일반화와 오래된 교훈: 내부와 외부 분포
이러한 사고방식은 신경망에 대한 오랜 비판과 맞아떨어진다. 즉, 신경망은 허용 가능한 수준으로 일반화된다는 것이다. 훈련 분포 내에서는 붕괴되지만, 훈련 분포 밖에서는 붕괴됩니다.공동 저자 중 한 명은 1998년에 다층 퍼셉트론을 사용하여 문장 계산과 예측을 수행한 사례를 기록했습니다.
해당 스레드는 2001년 Science에 게재된 기사에서 1999년 The Algebraic Mind에서 확장되었습니다. 7개월 된 아기는 당시 네트워크가 재현하지 못하는 패턴을 추론한다는 것이 증명되었습니다.2018년에는 딥러닝: 비판적 평가, 2022년에는 딥러닝이 벽에 부딪히고 있다라는 주제로 연구를 진행했습니다. 이러한 궤적은 이제 새로운 데이터로 확인되었습니다.
하노이 탑에서 일반인이 8개의 원반을 맞고 실패했다는 사실도 알려져 있습니다. 하지만 중요한 점은 우리가 어려움을 겪는 문제를 안정적으로 해결하기 위해 컴퓨터를 발명했다는 것입니다.합리적인 AGI의 목표는 인간의 적응력과 기계의 신뢰성을 결합하는 것이지, 두 세계의 단점을 물려받는 것이 아닙니다.
실제적인 판결: LLM은 기존 알고리즘을 대체하지 않습니다.그들은 고전 엔진처럼 체스를 두지 않고, 특수 신경 기호 체계처럼 단백질을 접거나, 공학적 엔진처럼 데이터베이스를 관리하지도 않습니다. 그들은 코드 작성에는 유용하지만… 간헐적으로만 그렇습니다.
애플의 비전: 환각과 책임감 감소
브리핑에서 존 지아난드레아와 크레이그 페데리기는 큐레이팅된 데이터와 보조 바퀴를 활용해 환각을 최소화하려는 애플의 접근 방식을 옹호했습니다. 그들은 신중하게 훈련하고 책임감 있게 기술을 적용하는 데 에너지를 쏟았다고 말합니다.내부 테스트를 기반으로 한 대안보다는 유용하고 해롭지 않은 모델을 타겟팅합니다.
Apple은 OpenAI와의 협업을 사용자가 요청할 경우 제3자에게 통제된 방식으로 종료하는 방식으로 표현합니다. 항상 허가를 받고, IP를 숨기고, 요청을 저장하지 않음 공급자가 Private Cloud Compute를 복제하면 최대한 많은 보장이 제공됩니다.
소문, 내부 갈등, 그리고 전략
Gurman의 연대기는 소프트웨어와 AI 분야 선도 기업 간의 내부 갈등과 GPU에 대한 투자가 바람직하지 않은 수준으로 보수적인 모습을 묘사합니다. 하드웨어 수요가 감소하고 온프레미스 모델이 3억 개, 클라우드 모델이 수십억 개에 달할 것이라는 이야기가 있습니다., 다른 주체들이 탐구하고 있는 최첨단 규모에는 아직 미치지 못합니다.
전략적 해석은 Apple이 신중하게 움직이고 있으며, 개인 정보 보호와 경험 제어를 우선시하는 한편, 틈새를 메우기 위해 선택적 파트너십에 의존하고 있다는 것입니다. 일부 사람들은 ChatGPT 통합을 패치로 해석하고, 다른 사람들은 실용적인 램프로 해석합니다. 우리만의 더욱 유능한 모델을 만들어내기 위해서입니다.
시장에서는 압박이 가해지고 있습니다. iPhone 판매는 둔화되고 경쟁은 빠르게 진행되고 있습니다. Apple은 방대한 설치 기반과 부러울 만한 하드웨어-소프트웨어 통합을 유지합니다.AI를 가속화하면 그 기반을 새로운 경쟁 우위로 전환할 수 있습니다.
기업과 개발자에게 의미하는 바
솔루션을 구축하는 사람들이 얻어야 할 교훈은 명확합니다. 일반적인 모델을 도입하고 견고성을 기대하는 것만으로는 충분하지 않다는 것입니다. LLM에는 한계가 있으며 중요한 작업에서 검증된 알고리즘을 대체할 수 없습니다.하지만 이러한 블록은 특히 외부의 상징적 블록과 결합될 때 프로토타입 제작, 브레인스토밍, 글쓰기를 근사화하고 가속화할 수 있습니다.
Apple은 Foundation Models와 기기 내 실행을 통해 플랫폼에서 개인적이고 상황에 맞는 경험을 조율하는 흥미로운 방법을 제공합니다. Private Cloud Compute 및 선택적 타사 통합 외에도, 보드는 신뢰할 수 있는 프레임워크 내에서 수직 마법사, 상황에 맞는 워크플로, 생성 UI를 만들 수 있도록 열립니다.
조직의 경우 두 가지 장점을 모두 결합하는 것이 좋습니다. 정확성이 가장 중요한 기존 알고리즘과 유연성이 가장 중요한 전문화된 LLM특히 규제된 도메인에서 추론, 검증 및 추적 가능성의 한계를 면밀히 모니터링합니다.
이 모든 맥락을 고려하면 AppleLLM은 간단히 체크하기만 하면 되는 것이 아니라, 진정으로 유능한 Siri, 크로스 플랫폼 AI 플랫폼, 검증 가능한 개인정보 보호 전략 간의 고리를 끊을 수 있는 요소로 보입니다. 애플이 특유의 엄격함을 유지한다면, 그 자체의 모델은 지금까지 달성하지 못했던 질적 도약을 이루기 위한 생태계의 동력이 될 수 있습니다..
