Ketika Buku Asli Mulai Tenggelam di Lautan Teks AI

Gue lebih percaya buku lama bukan karena buku selalu benar

Gue lebih percaya buku lama bukan karena buku selalu benar. Buku juga bisa bias, salah, atau ditulis dari sudut pandang yang tidak lengkap.

Alasannya lebih sederhana: gue bisa melihat siapa yang menulis, kapan ditulis, edisi mana yang gue baca, siapa penerbitnya, dan konteks apa yang sedang dibicarakan.

Kalau gue tidak setuju, gue bisa kembali ke halaman aslinya. Gue bisa membandingkan edisi. Gue bisa mencari kritik terhadap penulisnya. Ada jejak.

Sekarang semakin banyak orang mengenal sebuah gagasan bukan dari buku atau paper aslinya, tetapi dari ringkasan, thread, video, dan jawaban AI. Semua itu bisa berguna. Masalahnya muncul ketika salinan mulai dianggap sebagai sumber, lalu salinan berikutnya belajar dari salinan sebelumnya.

Di titik itu, pengetahuan tidak hilang dalam bentuk dramatis. Ia berubah sedikit demi sedikit sampai kita tidak lagi tahu bagian mana yang berasal dari manusia, bagian mana yang dipotong, dan bagian mana yang ditambahkan mesin.

---

AI tidak dimulai pada 2022

AI bukan teknologi yang tiba-tiba muncul setelah pandemi. Machine learning, neural network, computer vision, dan natural language processing sudah dikembangkan selama puluhan tahun.

Yang berubah sekitar 2022 adalah akses publik terhadap generative AI. Orang biasa bisa meminta model menulis, menerjemahkan, merangkum, atau menjelaskan sesuatu dalam hitungan detik. AI keluar dari laboratorium dan masuk ke browser, kantor, sekolah, dan workflow developer.

Perubahan ini membuat volume teks sintetis naik sangat cepat. Bukan berarti semua teks AI buruk. Ada tulisan AI yang membantu, ada data sintetis yang berguna, dan ada model yang memakai campuran data manusia serta data buatan dengan prosedur yang masuk akal.

Pertanyaan kritisnya bukan “AI jahat atau tidak?”. Pertanyaannya:

Ketika sumber manusia dan output mesin bercampur, bagaimana kita masih tahu asal-usul sebuah pengetahuan?

---

Buku punya sesuatu yang sering hilang dari jawaban AI: provenance

Provenance adalah jejak asal-usul. Untuk sebuah buku, provenance bisa berupa:

• nama penulis;
• tahun dan tempat terbit;
• edisi dan penerjemah;
• penerbit;
• daftar referensi;
• catatan editor;
• revisi dari edisi sebelumnya;
• kritik dan tanggapan terhadap buku tersebut.

Provenance tidak membuat isi buku otomatis benar. Tetapi provenance membuat klaim bisa diperiksa.

Jawaban AI sering memberi kita kesimpulan tanpa semua jejak itu. Kita mungkin mendapat penjelasan yang terdengar masuk akal, tetapi tidak tahu apakah model sedang mengutip buku, menggabungkan lima sumber, mengarang referensi, atau mengulang ringkasan yang sudah beredar.

Bagi gue, ini perbedaan penting: jawaban adalah hasil, sedangkan sumber adalah jalur untuk memeriksa hasil.

---

Bahaya pertama: source laundering

Bayangkan sebuah gagasan dari buku A.

1. Seseorang merangkum buku A di blog.
2. Model membaca blog tersebut.
3. Model membuat ringkasan baru tanpa menyebut buku A.
4. Penulis lain mengutip ringkasan model.
5. Model berikutnya belajar dari artikel baru itu.

Setelah beberapa putaran, gagasan asli masih ada, tetapi identitasnya kabur. Ini bisa disebut source laundering: isi bergerak jauh dari sumber sampai tampak seperti pengetahuan umum tanpa pemilik, konteks, atau batasan.

Masalahnya bukan hanya hak cipta. Ada masalah epistemik. Kalimat yang awalnya merupakan argumen spesifik dalam bab tertentu bisa berubah menjadi “para ahli sepakat bahwa…”. Kritik dan syarat yang ada di halaman berikutnya menghilang.

AI mempercepat proses ini karena ia sangat bagus membuat teks baru yang terdengar rapi. Kerapian justru bisa menyamarkan berapa banyak konteks yang hilang.

---

Bahaya kedua: feedback loop

Model baru dapat dilatih dari data yang berisi output model lama. Jika pola ini berulang dan data asli semakin sedikit, model bisa belajar dari versi dunia yang sudah disederhanakan oleh model sebelumnya.

Penelitian tentang *model collapse* menunjukkan bahwa ketika data sintetis menggantikan data asli secara berulang, performa dan keberagaman distribusi dapat memburuk. Tetapi penelitian lain menunjukkan bahwa collapse bukan takdir otomatis: menyimpan dan mencampurkan data asli bersama data sintetis dapat membantu mempertahankan kualitas.

Ini bukan bukti bahwa semua model produksi sedang collapse. Ini adalah peringatan tentang desain dataset. Kalau kita berhenti menjaga data manusia yang punya provenance, kita membuat masalahnya lebih sulit diukur dan diperbaiki.

---

Bahaya ketiga: pengetahuan langka menjadi terlalu mahal untuk ditemukan

Model cenderung menyukai pola yang sering muncul. Itu masuk akal secara statistik, tetapi tidak selalu baik untuk pengetahuan.

Pengalaman seorang teknisi di kota kecil, catatan peneliti yang hanya terbit dalam satu edisi, istilah lokal, atau argumen minoritas bisa lebih jarang muncul daripada ringkasan populer. Saat konten populer disalin dan diringkas berkali-kali, pola yang sudah dominan menjadi semakin dominan.

Yang hilang bukan hanya “fakta”. Yang hilang bisa berupa cara melihat masalah, kosakata, pengecualian, dan pengalaman yang tidak cukup sering untuk memenangkan kompetisi frekuensi.

Buku lama kadang terasa lambat karena ia tidak dirancang untuk memberi jawaban instan. Justru kelambatan itu memaksa kita tinggal lebih lama dengan argumen yang tidak langsung populer.

---

Apakah perusahaan AI sedang mengumpulkan semua buku?

Kita perlu berhenti di sini agar analisisnya tidak berubah menjadi teori tanpa bukti.

Ada perdebatan hukum dan industri tentang dataset, crawling, lisensi, fair use, dan penggunaan karya berhak cipta untuk melatih model. Tetapi dari fakta bahwa perusahaan AI membutuhkan data, kita tidak bisa langsung menyimpulkan bahwa setiap buku sedang dikumpulkan, dibaca, atau dimanipulasi.

Klaim seperti itu harus dibuktikan per dataset, per model, atau per proses. Artikel yang jujur harus membedakan:

• fakta yang terdokumentasi;
• hipotesis yang masuk akal;
• skenario risiko;
• spekulasi yang belum punya bukti.

Justru pemisahan ini adalah contoh kecil dari pentingnya provenance.

---

Buku tidak boleh menjadi artefak museum

Solusinya bukan menolak AI atau berhenti membaca internet. AI bisa membantu kita menemukan buku, mencari istilah, membandingkan sudut pandang, dan membuat materi lebih mudah diakses.

Yang perlu dijaga adalah hubungan dengan sumber:

1. Simpan edisi dan metadata buku yang dipakai.
2. Kembali ke halaman asli untuk klaim penting.
3. Bedakan kutipan langsung, parafrase, dan interpretasi.
4. Catat ketika sebuah ringkasan dibuat dengan bantuan AI.
5. Jangan menjadikan satu jawaban AI sebagai sumber final.
6. Pertahankan arsip manusia dan dataset dengan provenance yang jelas.

Bagi penulis teknologi, ini juga berarti tidak cukup menulis “menurut penelitian”. Tautkan paper, sebutkan batasan eksperimen, dan jelaskan bagian mana yang merupakan interpretasi kita.

---

Cara membaca AI tanpa kehilangan sumber

Sekarang kalau gue memakai AI untuk memahami buku, gue menggunakan alur yang lebih disiplin:

1. Minta model memberi daftar konsep, bukan kesimpulan final.
2. Cari halaman atau bab asli.
3. Bandingkan jawaban model dengan teks sumber.
4. Catat bagian yang disederhanakan atau tidak ditemukan.
5. Tulis kesimpulan sendiri dengan tautan atau referensi yang bisa diperiksa.

AI menjadi peta. Buku tetap menjadi wilayah yang gue datangi.

---

Penutup: jangan biarkan salinan menggantikan ingatan

AI tidak otomatis menghapus buku. Tetapi ekosistem yang penuh ringkasan, parafrase, dan teks sintetis bisa membuat buku asli semakin sulit ditemukan dan semakin jarang dibaca.

Itulah risiko yang lebih halus. Bukan mesin datang lalu membakar perpustakaan, melainkan mesin menjadi lapisan pertama yang selalu kita temui ketika mencari pengetahuan. Setelah beberapa tahun, kita mungkin mengenal versi ringkas dari sebuah gagasan, tetapi lupa bahwa gagasan itu lahir dari buku, pengalaman, konflik, dan konteks tertentu.

Gue tidak ingin kembali ke dunia tanpa AI. Gue hanya tidak ingin AI menjadi satu-satunya memori yang kita punya.

AI bisa membantu kita menemukan buku. AI bisa membantu kita membacanya. Tetapi sumber murni tetap harus punya tempat untuk berbicara dengan suaranya sendiri.

---

Sumber

• Is Model Collapse Inevitable? Breaking the Curse of Recursion
• How Bad Is Training on Synthetic Data?
• How to Synthesize Text Data without Model Collapse?
• Google Search: Guidance on using generative AI content

*Ditulis karena gue masih ingin bisa membedakan suara penulis asli dari gema yang dibuat oleh mesin.*