Penjelasan dalam Bahasa Sederhana
Apa Itu Frontier Model?
Istilah yang dipakai regulator, peneliti keamanan, dan lab AI untuk menyebut sistem AI paling mampu yang tersedia saat ini.
Anda akan menemukan istilah 'frontier model' di dokumen kebijakan, komitmen keamanan, dan siaran pers dari hampir semua lab AI besar. Halaman ini menjelaskan arti istilah tersebut, bagaimana ambang kemampuan ditentukan, dan mengapa batas frontier bergeser setiap beberapa bulan.
Frontier model adalah sistem AI yang berada di atau dekat batas terdepan kemampuan pada tugas-tugas yang paling penting: penalaran, pemrograman, pemahaman ilmiah, dan bahasa. Regulator dan lab AI memakai istilah ini untuk menandai sistem yang memerlukan pengawasan keamanan tertinggi. Karena kemampuan AI terus berkembang, model mana yang tergolong frontier berubah dalam hitungan bulan, bukan tahun.
Diterbitkan
Pelajaran gratis · tanpa akunKenalan dengan ClaudeMengapa Claude?6 mntMulai pelajaran gratisApa yang Membuat Sebuah Model Disebut Frontier
Empat ciri yang dipakai peneliti untuk mengenali sistem frontier
Tidak ada satu uji tunggal yang menarik garisnya, tetapi keempat ciri ini selalu muncul dalam cara lab dan pembuat kebijakan mendefinisikan AI tingkat frontier.
Kemampuan yang luas
Frontier model bekerja baik di banyak bidang sekaligus: teks, kode, matematika, dan pemahaman gambar. Model spesialis yang sempit, sehebat apa pun di bidangnya, tidak termasuk.
Kinerja terbaik di kelasnya
Frontier model unggul pada evaluasi yang dipakai peneliti untuk membandingkan sistem. Begitu model yang lebih baru melampauinya pada ukuran tersebut, model lama bergeser keluar dari frontier.
Permukaan risiko yang baru
Frontier model dapat melakukan hal-hal yang tidak bisa dilakukan model sebelumnya. Artinya, model ini membawa kategori risiko yang belum sepenuhnya dipetakan atau dimitigasi oleh tim keamanan.
Skala
Mencapai frontier saat ini membutuhkan komputasi, data, dan upaya rekayasa yang sangat besar. Karena itu frontier dipegang oleh segelintir lab berdana besar di seluruh dunia.
Mengapa Istilah Ini Penting
Regulator dan lab memakai 'frontier' untuk menandai AI yang taruhannya paling tinggi
Pemerintah yang menyusun kebijakan AI perlu cara untuk mengatakan 'sistem-sistem ini memerlukan pengawasan tambahan' tanpa menyebut setiap model satu per satu. 'Frontier model' memberi mereka pegangan itu. Komitmen sukarela yang ditandatangani lab, rancangan regulasi di Uni Eropa dan Inggris, serta tindakan eksekutif di Amerika Serikat sama-sama memakai versi tertentu dari istilah ini untuk membatasi cakupan persyaratannya.
Lab memakainya untuk alasan yang sama di internal. Ketika sebuah perusahaan menerbitkan responsible scaling policy, biasanya evaluasi keamanan, gerbang penerapan, dan prosedur penanganan insiden dikaitkan dengan model yang melewati ambang frontier. Ambang itu sering ditentukan dari gabungan komputasi yang dipakai dalam pelatihan dan skor pada evaluasi kemampuan tertentu.
Istilah ini juga membawa kesan mendesak yang tersirat. Menyebut sebuah model sebagai frontier menandakan bahwa pengembangnya meyakini model itu cukup mampu sehingga perlu akuntabilitas publik, bukan hanya pengujian internal. Pembingkaian itu memengaruhi cara peneliti, jurnalis, dan pembuat kebijakan menanggapi rilis baru.
Ambang yang Bergeser
Mengapa frontier adalah batas yang bergeser, bukan standar yang tetap
Frontier bukan kategori permanen. Model yang menjadi yang terdepan hari ini akan dilampaui sistem yang lebih baru dalam hitungan bulan. Ketika itu terjadi, ia tidak lagi menjadi frontier model dalam pengertian kebijakan dan keamanan, meskipun tetap menjadi alat yang kuat dan banyak dipakai.
Hal ini menciptakan dinamika yang tidak biasa bagi regulasi. Pembuat kebijakan tidak bisa menulis aturan yang menyebut model tertentu dan berharap aturan itu tetap relevan. Regulasi yang efektif justru mengaitkan kewajiban dengan cara model dilatih, apa yang bisa dilakukannya, dan sumber daya komputasi yang dipakai, sehingga aturan ikut bergerak bersama frontier dan tidak membeku pada sistem kemarin.
Bagi praktisi, frontier yang terus bergeser berarti tetap mutakhir menuntut belajar secara berkelanjutan. Teknik yang bekerja baik untuk satu generasi model mungkin perlu disesuaikan ketika generasi berikutnya hadir dengan kekuatan, pola kegagalan, dan perilaku bawaan yang berbeda.
Keamanan dan Tata Kelola
Apa yang biasanya dipicu oleh status frontier
Red-teaming dan evaluasi keamanan
Sebelum diterapkan, frontier model menjalani pengujian adversarial terstruktur untuk mencari kemampuan berbahaya dan perilaku tak terduga yang muncul selama pelatihan.
Model card dan laporan transparansi
Lab menerbitkan dokumentasi yang menjelaskan apa yang bisa dan tidak bisa dilakukan model, keterbatasan yang diketahui, dan evaluasi yang dilewatinya sebelum rilis.
Audit pihak ketiga
Program pemerintah dan komitmen sukarela semakin sering mensyaratkan bahwa frontier model dievaluasi oleh peneliti independen, bukan hanya oleh lab yang membuatnya.
Gerbang penerapan
Responsible scaling policy mengaitkan kemampuan tertentu dengan pembatasan penerapan: model yang mampu melakukan tugas berbahaya melampaui ambang yang ditetapkan mungkin tidak dirilis sampai mitigasinya tersedia.
Belajar bekerja dengan model yang paling penting
Memahami apa itu frontier model adalah titik awal. Mengetahui cara memakainya dengan baik adalah keterampilan yang berbeda, dan membutuhkan latihan yang disengaja. Kurikulum Nightschool AI bersifat praktik langsung sejak pelajaran pertama, disusun di sekitar tugas nyata dan bukan teori.
Pertanyaan yang Sering Diajukan
Apakah Claude termasuk frontier model?
Ya. Claude dikembangkan oleh Anthropic, salah satu lab keamanan AI terkemuka, dan versi-versinya yang paling mampu berada di frontier dari apa yang bisa dilakukan sistem AI saat ini. Anthropic menerbitkan responsible scaling policy yang mendefinisikan ambang tertentu beserta komitmen keamanan yang berlaku ketika Claude melewatinya.
Bagaimana lab menentukan apa yang termasuk frontier model?
Lab biasanya menggabungkan ambang komputasi (seberapa besar daya pemrosesan yang dipakai dalam pelatihan) dengan evaluasi kemampuan (apa yang sebenarnya bisa dilakukan model). Ketika sebuah model melewati kedua jenis ambang itu, proses keamanan dan tata kelola yang ditetapkan dalam responsible scaling policy lab tersebut mulai berlaku.
Mengapa regulator secara khusus peduli pada frontier model?
Frontier model memiliki kemampuan paling luas dan, dengan sendirinya, potensi dampak terbesar: baik positif maupun negatif. Regulator berfokus pada frontier karena di sanalah risiko baru pertama kali muncul, sebelum industri lainnya menyusul dan sebelum masyarakat sempat membangun norma untuk kemampuan baru tersebut.
Apa itu responsible scaling policy?
Responsible scaling policy adalah komitmen publik dari sebuah lab AI yang mengaitkan keputusan penerapan dengan evaluasi keamanan. Kebijakan ini menetapkan uji apa yang harus dilewati model sebelum dirilis dan kemampuan apa yang akan memicu jeda dalam pengembangan. RSP adalah cara lab menjalankan tata kelola frontier model dalam praktik.
Apakah sebuah model berhenti menjadi frontier setelah model yang lebih baru dirilis?
Pada umumnya ya, setidaknya dalam pengertian kebijakan dan keamanan. Begitu model yang lebih baru melampaui model lama pada evaluasi kemampuan yang dipakai untuk mendefinisikan frontier, model lama tidak lagi dianggap setingkat frontier, meskipun tetap mampu dan banyak digunakan.
Seberapa sering frontier bergeser?
Frontier bergeser dalam hitungan bulan seiring lab merilis generasi model baru. Setiap rilis besar disertai hasil evaluasi yang menunjukkan posisinya dibandingkan sistem sebelumnya, dan frontier pun bergeser. Laju ini membuat regulasi yang statis sangat sulit disusun.
Apakah frontier model punya aturan penggunaan khusus?
Frontier model tunduk pada pengujian keamanan yang lebih menyeluruh dan kebijakan penggunaan yang lebih rinci dibandingkan sistem generasi sebelumnya. Model ini juga lebih mungkin tercakup dalam kewajiban pelaporan pemerintah dan komitmen sukarela industri, yang memengaruhi cara model diterapkan, dipantau, dan diperbarui setelah peluncuran.
Apa perbedaan antara frontier model dan foundation model?
Foundation model adalah model besar apa pun yang dilatih dengan data luas dan dapat disesuaikan untuk banyak tugas. Frontier model adalah himpunan bagian tertentu: foundation model yang saat ini mewakili batas terdepan kemampuan. Semua frontier model adalah foundation model, tetapi sebagian besar foundation model tidak berada di frontier.