Kota Metro, A1BOS.COM -Selama beberapa tahun terakhir, banyak fitur kecerdasan buatan (AI) di smartphone masih mengandalkan cloud. Ketika pengguna meminta AI membuat ringkasan, menerjemahkan teks atau mengolah foto, sebagian proses dapat dilakukan di server sebelum hasilnya dikirim kembali ke ponsel.

Namun, pola tersebut mulai berubah. Smartphone kini semakin mampu menjalankan AI langsung di perangkat. Teknologi ini dikenal sebagai on-device AI, yaitu pemrosesan AI yang dilakukan di smartphone tanpa harus selalu mengirim data ke server.

Google menjelaskan bahwa pemrosesan on-device memungkinkan perangkat melakukan tugas tertentu tanpa mengirim data ke cloud. Keuntungannya antara lain respons yang lebih cepat, ketersediaan yang lebih baik ketika koneksi internet bermasalah, serta kemampuan memproses data secara lokal. Google juga menggunakan Gemini Nano untuk menjalankan sejumlah fitur AI langsung pada perangkat Android. 

Smartphone Mulai Punya Otak AI Sendiri

Perubahan tersebut tidak terlepas dari perkembangan chip smartphone.

Produsen prosesor kini memasukkan komponen khusus untuk menangani pekerjaan AI. Qualcomm, misalnya, menggunakan Hexagon NPU sebagai bagian dari Qualcomm AI Engine pada platform Snapdragon. NPU tersebut dirancang untuk mempercepat pemrosesan AI dan menjalankan inferensi AI secara langsung di perangkat dengan efisiensi daya yang lebih baik.

MediaTek juga mengembangkan pendekatan serupa. Pada Dimensity 9400, perusahaan tersebut menggunakan NPU generasi kedelapan yang mendukung berbagai model AI generatif dan memungkinkan sejumlah pekerjaan, termasuk pembuatan video berbasis AI, dilakukan langsung di smartphone tanpa pemrosesan cloud.

Artinya, smartphone tidak lagi hanya menjadi perangkat untuk mengakses layanan AI yang berada di internet. Sebagian kemampuan AI mulai dipindahkan ke dalam perangkat itu sendiri.

Tidak Semua AI Harus ke Cloud

Meski begitu, bukan berarti cloud akan segera ditinggalkan.

Model AI berukuran besar tetap membutuhkan kemampuan komputasi yang jauh lebih tinggi. Cloud masih memiliki keunggulan ketika pengguna membutuhkan model besar, penyimpanan data atau pekerjaan yang terlalu berat untuk dilakukan smartphone.

Namun, banyak tugas sehari-hari sebenarnya tidak membutuhkan model sebesar itu.

Meringkas teks, menerjemahkan kalimat, membuat saran tulisan, mengenali objek pada foto atau melakukan pengolahan gambar tertentu dapat ditangani model AI yang lebih kecil.

Google melalui Gemini Nano, misalnya, menyediakan model yang memang dirancang untuk pekerjaan AI di perangkat. Dokumentasi Android menyebut Gemini Nano dapat digunakan untuk berbagai fungsi seperti meringkas, memperbaiki tulisan, menulis ulang teks dan memberikan deskripsi gambar tanpa harus selalu mengandalkan koneksi jaringan.

Respons Bisa Lebih Cepat

Salah satu keuntungan paling terasa dari AI on-device adalah latensi.

Pada sistem berbasis cloud, permintaan pengguna harus dikirim ke server dan hasilnya kemudian dikembalikan ke smartphone. Proses tersebut sangat bergantung pada kualitas koneksi internet dan beban server.

Sebaliknya, pemrosesan lokal tidak membutuhkan perjalanan data tersebut untuk tugas yang dapat diselesaikan di perangkat.

Google menyebut pemrosesan on-device dapat memberikan hasil yang lebih cepat dan lebih andal untuk tugas tertentu. Android juga menggunakan AICore untuk menjalankan Gemini Nano dengan memanfaatkan perangkat keras smartphone, sehingga inferensi dapat dilakukan dengan latensi rendah. 

AI Tetap Bisa Bekerja Tanpa Internet

Keuntungan lainnya adalah kemampuan menjalankan fitur tertentu ketika koneksi internet tidak tersedia.

Google sudah menerapkan pendekatan ini pada Gemini Nano di Pixel. Saat pertama kali diperkenalkan pada Pixel 8 Pro, Gemini Nano digunakan untuk fitur seperti merangkum rekaman dan Smart Reply. Google menyebut beberapa fitur tersebut dapat bekerja tanpa koneksi jaringan karena model AI berjalan langsung di perangkat. 

Ini penting karena AI perlahan menjadi bagian dari fitur dasar smartphone. Pengguna mungkin tidak selalu membuka aplikasi chatbot, tetapi berinteraksi dengan AI melalui kamera, keyboard, perekam suara, galeri foto atau aplikasi komunikasi.

Semakin banyak fungsi yang bisa dilakukan secara lokal, semakin kecil ketergantungan fitur tersebut terhadap koneksi internet.

Privasi Menjadi Pertimbangan

Ada alasan lain yang membuat pemrosesan lokal menarik: privasi.

Jika sebuah tugas dapat diselesaikan di smartphone, data yang diperlukan tidak selalu harus dikirim ke server. Android menyebut pemrosesan Gemini Nano secara lokal dapat membantu meningkatkan privasi karena data tidak perlu dikirim ke cloud untuk tugas yang dijalankan di perangkat. 

Qualcomm juga menempatkan privasi sebagai salah satu manfaat on-device AI. Perusahaan tersebut menjelaskan bahwa pemrosesan langsung di perangkat memungkinkan data tertentu tetap berada di smartphone, sekaligus mengurangi latensi. 

Namun, pengguna tetap tidak boleh menganggap semua AI di smartphone otomatis bersifat privat. Sebuah fitur bisa saja menggunakan kombinasi pemrosesan lokal dan cloud. Cara data dikumpulkan, disimpan dan dikirim tetap bergantung pada desain masing-masing aplikasi dan produsen.

Tantangannya Ada pada Daya dan Memori

Memindahkan AI ke smartphone tentu bukan tanpa masalah.

Model AI membutuhkan memori dan kemampuan komputasi. Semakin besar model yang digunakan, semakin berat pula pekerjaan yang harus dilakukan perangkat.

Smartphone juga memiliki keterbatasan baterai. Karena itu, menjalankan AI secara lokal membutuhkan chip yang tidak hanya cepat, tetapi juga hemat energi.

Di sinilah NPU memainkan peran penting. Qualcomm, misalnya, menjelaskan bahwa Hexagon NPU dirancang khusus untuk inferensi AI dengan mempertimbangkan performa dan efisiensi daya. 

Perkembangan perangkat keras tersebut membuat model AI yang sebelumnya terlalu berat untuk smartphone perlahan dapat dijalankan secara lokal.

Masa Depannya Bukan Cloud atau On-Device

Perkembangan AI smartphone kemungkinan tidak akan berakhir pada pilihan antara cloud dan on-device.

Keduanya justru akan berjalan berdampingan.

Tugas sederhana yang membutuhkan respons cepat dapat diproses langsung di smartphone. Sementara pekerjaan yang membutuhkan model lebih besar dan komputasi berat tetap dapat diteruskan ke cloud.

Google sendiri menjelaskan bahwa pemrosesan cloud masih memiliki keunggulan untuk model yang lebih kuat dan pekerjaan yang membutuhkan sumber daya besar. Di sisi lain, pemrosesan lokal lebih cocok untuk tugas tertentu yang membutuhkan kecepatan, ketersediaan dan privasi. 

Pola seperti ini membuat smartphone semakin menyerupai komputer AI pribadi.

AI tidak lagi hanya menjadi layanan yang berada jauh di pusat data dan diakses melalui internet. Sebagian kecerdasannya mulai berada di dalam perangkat yang setiap hari dibawa pengguna.

Karena itu, persaingan smartphone ke depan kemungkinan tidak hanya soal kamera, layar, baterai atau kecepatan prosesor. Kemampuan menjalankan AI secara lokal dengan cepat dan hemat daya akan menjadi salah satu bagian penting dari pengalaman menggunakan smartphone.

Smartphone masa depan bukan sekadar perangkat untuk mengakses AI. Smartphone itu sendiri mulai menjadi tempat AI bekerja.