Apple Intelligence được Apple tạo ra để mang tính thân thiện, cá nhân hoá trải nghiệm giữa AI và người dùng, tính dễ sử dụng và đặc biệt là đề cao sự riêng tư, là một thứ gì đó mà những hệ thống AI hay các mô hình ngôn ngữ lớn khác không đề cập một cách cụ thể và chính xác.

Các phương pháp xử lý dữ liệu xung quanh các dịch vụ AI và chatbot là khác nhau và một số trong đó đảm bảo về quyền riêng tư, Apple cũng vậy nhưng Apple lại có một hướng đi khác.

Hiện tại cách xử lý các tác vụ AI sẽ có hai hướng: trực tiếp trên thiết bị và trên cloud, với phần cứng mạnh mẽ trên iPhone, iPad và máy Mac, Apple tất nhiên muốn các tác vụ AI của mình xử lý on-device nhiều nhất có thể, nhưng chắc chắn có những tác vụ mà đòi hỏi sức mạnh xử lý mạnh hơn rất nhiều một chiếc iPhone hay máy Mac có thể làm được. Vì vậy nó sẽ chuyển request của người dùng lên cloud. Với việc xử lý on-device thì dữ liệu của người dùng sẽ chỉ nằm trên máy người dùng, nhưng việc xử lý request của người dùng lên cloud, Apple lại có cách xử lý khác và công khai điều đó.

Cloud của Apple cũng khác so với các dịch vụ AI sử dụng cloud để xử lý, dù là mã nguồn đóng hay mở, các hệ thống máy chủ của Apple được xây dựng dựa trên Apple Silicon, với các nền tảng bảo mật quen thuộc mà người dùng đã biết như Secure Enclave hay Secure Boot, kết hợp chúng với một OS mới là sự kết hợp giữa iOS và macOS để hỗ trợ tốt nhất cho việc suy luận mô hình ngôn ngữ lớn, sự kết hợp này cũng giúp tích hợp được các công nghệ bảo mật tiên tiến của iOS như Code Signing và Sandbox.

PCC của Apple được xây dựng dựa trên nhiều yếu tố, nhưng một trong số đó mà mình muốn đề cập là Stateless, tức là khi Apple Intelligence nhận dược request của người dùng bắt buộc phải sử dụng cloud để xử lý, dữ liệu người dùng được gửi lên hệ thống máy chủ của Apple nhưng nhân viên của Apple sẽ không thể biết được dữ liệu này là gì, ngay cả trong quá trình xử lý. Sau khi xử lý xong request của người dùng, dữ liệu cũng sẽ không được giữ lại, kể cả log.

Các công ty khác cũng nói về điều đó (bảo mật dữ liệu) khi ra mắt các nền tảng Generative AI, nhưng chưa có công ty nào công khai một cách rõ ràng, chi tiết như Apple và thậm chí công khai các image cho các nhà phát triển nghiên cứu bảo mật và bất kì ai nếu muốn xem những gì Apple cam kết là có đúng hay không, không chỉ ở thời điểm này mà là cho mọi cập nhật trở về sau. Đó là một phần của Private Cloud Compute (PCC) mà Apple giới thiệu chung với Apple Intelligence.

Đọc thêm về Private Cloud Compute tại đây.

Apple sử dụng 2 foundation model dành cho Apple Intelligence

Trong tài liệu của Apple nói về Apple Intelligence, Apple cho biết họ sử dụng 2 foundation model do họ tự xây dựng, 1 mô hình sẽ dành cho xử lý on-device (Apple on-device model) với 3 tỷ tham số và 1 mô hình lớn hơn chạy trên cloud (Apple Server model) và được bảo mật nhờ Private Cloud Compute.