Google memperluas jajaran perangkat keras kecerdasan buatan buatannya dengan dua sistem Tensor Processing Unit (TPU) baru. Langkah ini meningkatkan persaingan dalam pasar prosesor yang digunakan untuk melatih dan mengoperasikan model AI yang semakin kompleks.
Perusahaan memperkenalkan TPU 8tx dan TPU 8i Max pada 9 November, sehingga portofolio generasi kedelapannya kini mencakup empat sistem dalam satu tahun. Keduanya ditujukan untuk kebutuhan khusus pelanggan yang menjalankan agen AI, tetapi menyelesaikan persoalan teknis berbeda.
Google menyatakan bisnis TPU kini melayani hampir 100 pelanggan, termasuk laboratorium AI, perusahaan keuangan, peritel, dan universitas. Perusahaan juga memperluas cara pelanggan memakai chip tersebut, dari menyewa kapasitas melalui Google Cloud hingga menempatkan sistem TPU di pusat data sendiri.
Chip untuk pemrosesan data rahasia
TPU 8tx dirancang untuk perusahaan dan lembaga pemerintah yang perlu memproses data sensitif dengan AI tanpa membuka data tersebut secara tidak perlu selama pengolahan.
Data lazim dienkripsi ketika tersimpan atau dikirim melalui jaringan, tetapi melindunginya ketika prosesor sedang bekerja jauh lebih rumit. Google menyatakan 8tx menggabungkan akselerator buatannya dengan prosesor host AMD EPYC generasi kelima dan perlindungan confidential computing untuk mengisolasi data dan parameter model selama digunakan.
Sistem tersebut berpotensi relevan bagi perbankan, layanan kesehatan, pemerintahan, serta perusahaan yang mengembangkan asisten AI pengolah informasi privat. Namun, organisasi tetap harus menilai arsitektur keamanan, pembatasan akses, serta kewajiban hukumnya. Perlindungan perangkat keras tidak menggantikan desain perangkat lunak yang aman.
Google juga mengklaim 8tx memberikan peningkatan kinerja latensi hingga dua kali dibanding konfigurasi TPU 8t sebelumnya dengan konsekuensi performa yang sangat kecil. Angka ini berasal dari pengujian perusahaan, bukan jaminan independen untuk semua jenis aplikasi.
Memori lebih besar untuk agen AI
Sistem kedua, TPU 8i Max, ditujukan untuk mengatasi hambatan berbeda. Model AI yang memproses dokumen panjang, arsip video, atau repositori kode besar membutuhkan bandwidth memori tinggi sekaligus kemampuan komputasi.
Menurut Google, sistem baru ini menggabungkan dua chip 8i dalam satu kemasan sehingga kapasitas komputasi, SRAM, dan throughput memori berbandwidth tinggi menjadi dua kali lipat dibanding satu chip 8i. Kapasitas yang lebih besar dalam ukuran rak yang sama dapat membantu penyedia layanan cloud melayani beban kerja lebih besar tanpa memperluas ruang secara sebanding.
Google menyoroti pengembangan kode oleh agen AI, riset, dan aplikasi dengan jendela konteks sangat panjang sebagai contoh. Namun, manfaat nyata bergantung pada model, perangkat lunak, dan konfigurasi jaringan. Spesifikasi chip lebih tinggi tidak otomatis memberikan kenaikan produktivitas pelanggan dalam persentase yang sama.
Google mengejar pengembang di luar perusahaan
Salah satu hambatan besar akselerator khusus adalah kompatibilitas perangkat lunak. GPU Nvidia memiliki ekosistem pengembang yang luas dan memindahkan aplikasi ke prosesor lain dapat membutuhkan pekerjaan rekayasa tambahan.
Google mencoba menurunkan hambatan melalui TorchTPU, dukungan PyTorch, serta integrasi dengan perangkat inferensi sumber terbuka. Perusahaan juga mengumumkan perangkat lunak untuk menangguhkan sesi agen AI ketika tidak aktif sehingga pelanggan tidak membayar sumber daya komputasi selama agen menunggu alat eksternal atau masukan manusia.
Google berpendapat pelanggan semakin membutuhkan sistem lengkap yang menggabungkan prosesor, memori, jaringan, dan perangkat lunak, bukan sekadar chip yang lebih cepat. Pendekatan ini mencerminkan ekonomi infrastruktur AI skala besar, ketika listrik, tingkat pemanfaatan, serta keterlambatan antar-komponen menentukan biaya setiap permintaan.
Dampaknya bagi persaingan industri
Pengumuman ini menambah pilihan bagi bisnis yang mempertimbangkan GPU Nvidia, akselerator AMD, dan chip milik penyedia cloud. Hal tersebut bukan berarti pelanggan bisa berpindah platform tanpa menguji harga, performa, dan kompatibilitas.
Pertumbuhan Google Cloud memberi perusahaan alasan kuat untuk mengembangkan perangkat keras sesuai kebutuhan pelanggan sekaligus mempertahankan lebih banyak nilai dalam bisnis infrastrukturnya. Bagi pelanggan, semakin banyak pilihan dapat memperkuat posisi tawar, tetapi penghematan sesungguhnya harus dihitung dari keseluruhan biaya operasional.
Ukuran keberhasilan berikutnya adalah pemakaian nyata oleh pengembang dan perusahaan di luar Google, bukan angka spesifikasi ketika produk diluncurkan.




