Catatan Lapangan ④: PC mining lama menjadi "ChatGPT khusus internal" dalam 2 hari

Studi kasus penerapan AI

"Kami ingin memakai ChatGPT untuk bekerja. Tapi kami tak mungkin mengirim data pelanggan atau kode milik sendiri ke layanan AI eksternal" — keluhan yang kerap kami dengar di banyak perusahaan. Kali ini, ini adalah catatan lapangan menyulapsatu PC bekas eks-penambangan aset kriptomenjadi "ChatGPT khusus internal" yang dapat digunakan seluruh karyawan. Tambahan investasi perangkat keras nyaris nol. Pekerjaan pembangunan dipimpin agen AI (Claude), dan diselesaikan dalam2 hari kerja.

Bahannya adalah "4 GPU bekas yang sudah usang".

Yang kami pakai adalah PC yang tugasnya usai sejak booming penambangan beberapa tahun lalu. GPU yang terpasang berupa 4 keping AMD Radeon Vega 56/64 — bukan GPU AI terkini, bahkan bukan buatan NVIDIA. Bahan yang menyimpang dari anggapan umum tentang "server AI".

Namun total memori video keempatnya 32GB. Berfokus pada hal ini, agen AI merancang konfigurasi yang menyiasati kendala tak bisanya memakai sarana standar untuk AI (CUDA) melalui API grafis dan komputasi terbuka "Vulkan".setara GPT-4o tahun 2024Kami berhasil menjalankan secara bersamaan 3 model AI menurut kegunaannya, termasuk model terbuka (kelas 30B parameter) yang disebut-sebut setara GPT-4o.

• Untuk chat sehari-hari (7B): 43 token per detik — kecepatan terasa setara ChatGPT
• Untuk generasi kode tingkat lanjut dan konsultasi desain (kelas 30B): 30 token per detik — kecerdasan kelas GPT-4o (2024)
• Untuk pelengkapan kode di dalam editor (1.5B): 127 token per detik — pelengkapan input seperti GitHub Copilot

Tampilannya berupa Web UI yang mirip persis ChatGPT. Karyawan cukup membuka peramban untuk memakainya sambil berganti-ganti model. Para insinyur juga sudah memasang pelengkapan otomatis ala Copilot di VS Code.Seluruh pemrosesan tuntas di dalam perusahaan, dan tak satu byte pun data keluar.

Pemeran utama pembangunan adalah agen AI. Manusia sepenuhnya berfokus pada pengambilan keputusan.

Pembangunan kali ini adalah wujud nyata "pengembangan berbasis AI" yang kami praktikkan. Penyiapan OS, pembangunan mesin inferensi, desain pemisahan jaringan, penyelidikan gangguan — yang menggerakkan tangan adalah agen AI. Yang diemban manusia hanyalah pengambilan keputusan pada titik-titik penting dan pekerjaan fisik (seperti mencolokkan ulang kabel).

Yang patut dicatat adalah penanganan gangguan. Selama pembangunan, satu keping GPU tua bermasalah dan berulang kali memutus komunikasi. Agen AI menentukan titik kerusakan dari log kernel, menunjukkan "kartu di slot fisik mana" lewat putaran kipas untuk memandu penggantiannya. Lebih dari itu, kami juga menyiapkandesain agar jaringan tidak terputus meski GPU rusak di kemudian hari(alamat MAC dikunci), sertapemantauan yang mendeteksi anomali setiap 5 menit dan memulihkannya secara otomatis. Kini server ini berada dalam kondisi "bisa dibiarkan" — cukup dinyalakan, seluruh layanan hidup secara otomatis.

Keamanan dirancang "dengan asumsi akan disusupi".

Kami memang mempublikasikannya ke internet agar bisa dipakai dari luar kantor, tetapi desainnya berpremis "seandainya pun disusupi, kerugiannya tidak meluas". Server diisolasi ke jaringan khusus (DMZ) dengan konfigurasi yang sama sekali tidak dapat menjangkau sistem internal lain. Akun memakai sistem persetujuan administrator, dan seluruh komunikasi dienkripsi.server yang "tak ada apa-apa meski dimasuki" bagi penyerang.

Biaya yang dikeluarkan dan apa yang diperoleh.

• Tambahan investasi perangkat keras:nyaris nol(memanfaatkan kembali PC mining menganggur yang sudah ada)
• Durasi pembangunan:2 hari kerja(termasuk penanganan gangguan dan desain keamanan)
• Biaya operasional: hanya listrik (sudah dihemat lewat pembatasan daya GPU).Biaya penggunaan API tetap nol yen dan tanpa batas
• Yang diperoleh: chat AI khusus internal yang dapat dipakai seluruh karyawan + platform pelengkapan kode untuk para pengembang

Meski bukan GPU terkini, meski bukan NVIDIA, dengan cara yang tepat "platform AI internal setingkat praktis" tetap bisa dibuat. Justru intinya adalah, di hadapan perangkat keras yang penuh kendala,menemukan konfigurasi yang tepat dengan cepat, dan membangun hingga mekanisme yang bisa bangkit kembali saat terjatuh— dan itulah pekerjaan yang paling dikuasai agen AI.

"Mesin menganggur kami" pun mungkin bisa menjadi platform AI.

"Kami menyerah memanfaatkan AI karena data tak boleh keluar", "biaya API AI cloud tak bisa diperkirakan", "ada server atau PC gaming yang tersisa" — bila satu saja cocok, platform AI internal lebih dekat daripada yang Anda kira.

Seri "Catatan Lapangan Legacy to AI"

• Rangkuman: 22 sistem dan 246 ribu baris pada satu PC — catatan terukur pengembangan AI selama 3,5 bulan
• Catatan Lapangan ①: Memperbarui total Java berusia 20 tahun dalam sekitar satu minggu
• Catatan Lapangan ②: Membuat pintu masuk baru ke sistem inti tanpa mengubah satu baris pun kode yang ada
• Catatan Lapangan ③: Menuntaskan kajian arsitektur sebulan dengan prototipe 2 hari + pengukuran nyata
• Catatan Lapangan ④: PC mining lama menjadi "ChatGPT khusus internal" dalam 2 hari (artikel ini)

*Angka dalam artikel ini adalah nilai terukur per Agustus 2026. Hasil pembangunan berbeda-beda tergantung kondisi dan kebutuhan perangkat keras.