Industri AI yang sedang berkembang pesat mengonsumsi jumlah besar chip memori komputer, jenis yang sama digunakan di laptop, smartphone, dan konsol game. Hal ini menyebabkan harga lebih tinggi dan potensi kekurangan untuk produk konsumen. Produsen menghadapi tantangan dalam menskalakan produksi di tengah lonjakan permintaan.
Model kecerdasan buatan memerlukan jumlah memori yang sangat besar karena skalanya, terdiri dari miliaran atau triliunan parameter yang disimpan di RAM untuk memungkinkan pemrosesan data cepat dan menghindari kemacetan dari penyimpanan yang lebih lambat seperti hard disk. Model ini berjalan pada skala besar, mendukung ratusan, ribuan, atau jutaan pengguna simultan, didorong oleh investasi tak terbatas.
Produksi semikonduktor dibatasi oleh kapasitas pabrik, dengan fasilitas baru memerlukan waktu bertahun-tahun dan investasi besar untuk dibangun. Samsung Electronics dan SK Hynix, yang memproduksi sekitar 70 persen chip ini, ragu untuk meningkatkan pasokan secara signifikan, karena khawatir penurunan industri AI yang bisa membuat pabrik menganggur. Samsung telah memanfaatkan permintaan dengan menaikkan harga, misalnya, chip 32-gigabyte dari $149 pada September menjadi $239 pada November, kenaikan 60 persen.
Kekurangan serupa pernah terjadi sebelumnya. Pada 2021, krisis chip global, yang diperburuk oleh pandemi, perang dagang, kebakaran, kekeringan, dan badai salju, mengganggu manufaktur dari truk hingga microwave. Tahun itu juga mengalami kekurangan hard disk karena naiknya kripto Chia. Ledakan AI juga telah menimbun unit pemrosesan grafis, meningkatkan harga saham Nvidia dari $13 di awal 2021 menjadi lebih dari $200 baru-baru ini.
OpenAI telah mengamankan kesepakatan dengan Samsung dan SK Hynix untuk perkiraan 40 persen dari pasokan memori global, sementara Microsoft, Google, dan ByteDance juga membeli chip secara agresif. Keseimbangan mungkin tidak datang sampai 2028, kecuali ada kehancuran AI, yang berpotensi menyebabkan dampak ekonomi. Analis industri Sanchit Vir Gogia dari Greyhound Research memperingatkan Reuters bahwa "kekurangan memori sekarang telah naik dari masalah tingkat komponen menjadi risiko makroekonomi."