Peringatan Anthropic mengenai pengembangan AI memiliki pesan tersembunyi
Perusahaan yang beberapa minggu lalu memberi tahu kita bahwa model Mythos-nya terlalu kuat untuk dirilis ke publik kini mengatakan bahwa kita mungkin perlu menekan tombol jeda pada AI, sembari mengajarkan AI-nya untuk…
Sumber: tomshardware. com
Perkembangan ini menjadi salah satu sorotan penting dalam perkembangan komponen dan performa PC. Perusahaan yang beberapa minggu lalu memberi tahu kita bahwa model Mythos-nya terlalu kuat untuk dirilis ke publik kini mengatakan bahwa kita mungkin perlu menekan tombol jeda…
Perusahaan yang beberapa minggu lalu memberi tahu kita bahwa model Mythos-nya terlalu kuat untuk dirilis ke publik kini mengatakan bahwa kita mungkin perlu menekan tombol jeda pada AI, sembari mengajarkan AI-nya untuk membangun dirinya sendiri. Pada tanggal 4 Juni, Anthropic menerbitkan sebuah laporan, ketika AI membangun dirinya sendiri, menunjukkan bahwa Claude sekarang menulis lebih dari 80% kode digabungkan ke dalam basis kode produksinya sendiri, naik dari satu digit sebelum Claude Code mencapai pratinjau penelitian pada bulan Februari tahun lalu, dan berpendapat bahwa loop tersebut telah mulai mempercepat pengembangan AI sedemikian rupa sehingga pada akhirnya dapat membuat manusia tidak dapat mengendalikan sistem yang sedang dibangun.
The Anthropic Institute, yang merupakan cabang penelitian perusahaan tersebut, menganggap tren ini sebagai gerakan awal menuju perbaikan diri yang bersifat rekursif, yaitu titik di mana sebuah model merancang dan membangun penerusnya sendiri tanpa masukan manusia yang berarti, dan memperingatkan bahwa ketidakselarasan yang jarang terjadi dalam model-model saat ini dapat terus "meningkat lebih sering namun kurang dipahami hingga kita kehilangan kendali atas model-model tersebut."
Luke James adalah seorang penulis lepas dan jurnalis. Meskipun latar belakangnya di bidang hukum, ia memiliki minat pribadi dalam segala hal yang berkaitan dengan teknologi, terutama perangkat keras dan mikroelektronik, serta segala hal yang berhubungan dengan peraturan.
Secara keseluruhan, perkembangan ini memberi gambaran tentang arah terbaru di perkembangan komponen dan performa PC dan alasan mengapa topik ini tetap relevan untuk terus dipantau.
Topik yang Berhubungan
Yang Paling Sering Dibaca
