Strategi Ciptakan Pendekatan Seimbang guna Bangun Kesiapan Infrastruktur AI

wmhg.org – Keberhasilan penerapan dan pengoperasian sistem Artificial Intellegent (AI) sangat bergantung pada infrastruktur yang mendasarinya, yang sering kali merupakan komponen yang paling tidak dipahami namun paling penting dari ragam AI.    

Menurut Vanguard, infrastruktur merupakan salah satu tantangan terberat bagi pengawasan TI dan merupakan faktor yang paling sering diidentifikasi yang berkontribusi terhadap pengabaian proyek AI di antara berbagai organisasi. Tidak ada pendekatan yang cocok untuk semua orang. Tekanan pada manajer TI saat ini sangat besar saat mereka menavigasi dan mengatasi berbagai pertimbangan yang saling bertentangan dari berbagai pemangku kepentingan. Pada saat yang sama, permintaan akan lebih banyak dan terus berlanjut pada aplikasi perusahaan. 

Segala sesuatu mulai dari sistem pemrosesan transaksi online tradisional hingga aplikasi berbasis cloud yang sangat interaktif memproses lebih banyak data dan menuntut lebih banyak daya komputasi CPU.     

Dengan latar belakang ini, kritis dan relevansi adopsi AI di seluruh organisasi menuntut pendekatan kolaboratif dan holistik terhadap perencanaan – khususnya, fokusnya harus pada apakah infrastruktur yang ada sesuai dengan tujuannya dan apakah peningkatan memberikan pengembalian investasi yang berarti. 

Dengan demikian, organisasi dapat menghindari perluasan sumber daya mereka yang terbatas secara berlebihan dan sebagai gantinya, menyalurkan upaya mereka dengan cara yang berarti dan strategis yang sepenuhnya mewujudkan potensi penuh AI.    

Mengapa AI perlu dilibatkan?

AI tidak mencakup hanya pada satu beban kerja atau kasus penggunaan; AI mencakup berbagai tugas, mulai dari inferensi rutin hingga pelatihan model yang kompleks dan intensif data. AI telah menjadi alat penting bagi banyak organisasi di berbagai industri, yang mendorong inovasi, efisiensi, dan keunggulan kompetitif. ujar Peter Chambers, Managing Director APAC, AMD.  

Cara kerja AI mendefinisikan ulang operasi meliputi:
•    Memperkaya pengambilan keputusan dengan analisis dan wawasan tingkat lanjut serta menambah kemampuan manusia, yang memungkinkan karyawan untuk berfokus pada tugas-tugas yang bernilai lebih tinggi.    
•    Meningkatkan pengalaman pelanggan, daya tanggap, dan akurasi dengan sistem AI interpretatif, chatbot, asisten virtual, dan rekomendasi yang dipersonalisasi.   •    Memungkinkan pengembangan produk dan layanan baru dengan memanfaatkan wawasan data dan algoritma canggih, serta mempercepat penelitian dan waktu perolehan wawasan menggunakan sistem AI generatif.    
•    Memperkuat manajemen dan mitigasi risiko dengan menganalisis pola dan anomali dalam data di samping meningkatkan deteksi penipuan dan ancaman dunia maya menggunakan sistem machine learning (ML) dalam kasus penggunaan seperti mesin personalisasi dan pengoptimalan harga.    

Berbagai macam aplikasi AI ini membutuhkan pengaturan infrastruktur yang berbeda-beda, sehingga penting bagi tim arsitektur perusahaan untuk mengadopsi pendekatan seimbang yang disesuaikan untuk tujuan tertentu.    

Lebih jauh lagi, kebutuhan infrastruktur AI mulai melampaui kemampuan organisasi untuk melayani berbagai macam proyek dan kapabilitas AI yang diterapkan pada lingkungan produksi. Kasus penggunaan yang ditargetkan untuk AI beragam, dan banyak organisasi telah memanfaatkan ratusan model. Vanguard melakukan survei organisasi dengan AI dalam produksi dan menemukan median 125 model yang digunakan dan lebih dari satu petabyte data yang diperlukan untuk melatih model-model tersebut secara agregat – dan sebagian besar memperkirakan persyaratan beban kerja akan meningkat. Dalam lingkungan perluasan beban kerja AI ini, infrastruktur muncul sebagai hambatan kritis.    

Infrastruktur sangat penting untuk keberhasilan implementasi AI

Komponen penting untuk mendukung AI meliputi komputasi berdaya tinggi, penanganan data yang efisien, dan jaringan yang andal. Namun, tidak semua beban kerja AI membutuhkan tingkat sumber daya yang sama. Sering kali, prosesor (CPU) dapat mengelola beban kerja AI yang lebih kecil, sementara aplikasi yang lebih terspesialisasi – seperti model pelatihan skala besar – memerlukan akselerator canggih (misalnya, GPU).    

Sebagai langkah pertama, para pemimpin TI harus mempertimbangkan poin-poin berikut sebelum memulai perencanaan dan membangun infrastruktur yang siap untuk AI:
1.    Menilai Persyaratan AI Spesifik: Tim arsitektur perusahaan harus mengevaluasi kasus penggunaan AI spesifik yang dibutuhkan bisnis mereka.  
2.    Seimbangkan CPU dan GPU: Ciptakan ekosistem CPU dan GPU yang seimbang yang dirancang untuk mencocokkan infrastruktur yang tepat dengan beban kerja.
3.    Prioritaskan Keamanan dan Privasi Data: Tim Infrastructure and Operational (I&O) harus mempertimbangkan penerapan AI pribadi, menjalankan beban kerja AI di tempat untuk membantu menjaga keamanan data sensitif.   

Seiring dengan terus berkembangnya beban kerja AI, bisnis perlu menekankan perlunya strategi infrastruktur yang hemat biaya. Data center yang mengoperasikan beban kerja AI mengonsumsi energi dalam jumlah besar. Tim arsitektur perusahaan harus memilih prosesor hemat energi, berinvestasi dalam solusi pendinginan, dan menerapkan praktik berkelanjutan untuk membantu mengelola biaya operasional.   

Infrastruktur AI yang tangguh memerlukan visibilitas ke sumber daya komputasi, penyimpanan, dan jaringan. Tim I&O harus melengkapi pusat data dengan alat observabilitas untuk membantu bisnis memahami pola penggunaan dan membantu memastikan infrastruktur dapat ditingkatkan seiring dengan meningkatnya permintaan AI.