Apple Pamer Performa Chip M5, Bisa Jalankan AI Berat Tanpa Server

Meski begitu, hasilnya menunjukkan bahwa percepatan itu hanya di awal saja. Sementara kecepatan generasi token berikutnya masih dibatasi oleh memori bandwidth.

Apalagi dengan model besar dan konteks prompt panjang, bottleneck (penurunan kinerja) yang bisa berpindah dari compute ke memori. Pun, memberatkan performa dari CPU perangkat.

Kesimpulannya, Apple lewat M5 dan framework MLX mempertegas posisinya dalam era baru pengolahan AI di perangkat. AI berat pun kini bisa berjalan di laptop atau tablet. 

BACA JUGA:Apple Tingkatkan Vision Pro dengan Chip M5

BACA JUGA:Apple Dikabarkan Tengah Siapkan Mac Murah, Siap Tantang Chromebook dan Laptop Windows di Pasar Low End

Bagi pengguna Mac dan kreator konten, itu dapat menjadi tanda. Sebuah masa depan pemrosesan AI sekarang ada di perangkat milik kita. (*)

Sumber: