OpenAI Mengumumkan Model GPT Yang Diperbarui Untuk Pengembang; Dengan Harga Yang Lebih Murah
Perlombaan kecanggihan AI semakin sengit dari hari ke hari. OpenAI telah memimpin balapan sejak awal, dan tidak ingin kehilangan keunggulan dari para pesaingnya. Perusahaan tersebut kini telah mengumumkan versi terbaru dari model API GPT-3.5-turbo dan GPT-4 untuk para pengembang. OpenAI juga telah mengurangi harga modelnya untuk bersaing dengan kompetitornya.
Model GPT Yang Terbaru Memiliki Kemampuan 'Pemanggilan Fungsi'
OpenAI mengumumkan pembaruan API terkini melalui posting blognya. Versi GPT-3.5-turbo dan GPT-4 yang terkini dilengkapi dengan kemampuan yang disebut 'pemanggilan fungsi'. Pemanggilan fungsi memungkinkan pengembang untuk mendeskripsikan fungsi dari model ke model dapat dengan cerdas membuat objek JSON untuk menjalankan fungsi. Menurut OpenAI, langkah ini memungkinkan pengembang untuk menghubungkan kemampuan GPT menjadi lebih andal "dengan dukungan alat eksternal dan API".
Bagaimana Fitur Pemanggil Fungsi Dapat Membantu Pengembang?
Dalam posting blognya, OpenAI telah menjelaskan bagaimana pemanggilan fungsi akan membantu pengembang. Misalnya, mereka dapat membuat chatbot yang menjawab pertanyaan dengan memanggil alat eksternal, mengonversi bahasa alami menjadi panggilan API atau kueri berbasis data, atau mengekstrak data terstruktur dari teks. Model dari fitur ini telah"disetel dengan baik" untuk mendeteksi "ketika suatu fungsi perlu dipanggil" dan merespons dengan kode yang "mematuhi tanda tangan fungsi".
OpenAI Telah Memperluas Jendela Konteks GPT-3.5-Turbo
Pembaruan API tidak terbatas pada pemanggilan fungsi saja. OpenAI juga membuat GPT-3.5-turbo lebih mudah dikontrol dengan pesan sistem, membantu pengembang membentuk perilaku model. Perusahaan juga memperbarui jendela konteks GPT-3.5-turbo. GPT-3.5-turbo yang tekini dengan jendela konteks yang diperluas dengan menawarkan 16.000 token, yang merupakan empat kali lipat dari model Vanilla.
GPT-4 Dengan Jendela Konteks 32.000 Token Sedang Diuji
Model dengan jendela konteks yang diperluas akan mempertimbangkan lebih banyak teks yang dibuat sebelumnya sebelum menghasilkan teks tambahan. GPT-3.5-turbo yang baru akan dapat membaca sekitar 20 halaman sekaligus. Perusahaan tersebut juga sedang menguji jendela konteks dengan 32.000 token untuk GPT-4. Sementara itu, saingan OpenAI, Anthropic's Claude memiliki jendela konteks dengan 100.000 token.
OpenAI Telah Memotong Biaya Input Token Vanilla GPT-3.5-Turbo Sebesar 25%
OpenAI telah mengurangi harga model API-nya. Token input dari GPT-3.5-turbo yang asli sekarang lebih murah 25%. Model ini dapat digunakan untuk $0,0015 per 1.000 token masukan dan $0,002 per 1.000 token keluaran, yang dapat mencapai sekitar 700 halaman per $1. Perusahaan rintisan ini juga memangkas biaya dari text-embedding-ada-002, yang merupakan model penyematan populernya, sebesar 75% menjadi $0,0001 per 1.000 token.
