Anthropic mengatakan telah secara signifikan memperluas jumlah informasi yang dapat diproses oleh AI generatifnya, Claude. Claude beralih dari batas 9 token menjadi 000 token, yang setara dengan sekitar 100 kata. Ini adalah keseluruhan novel. Sebagai perbandingan, Claude sekarang dapat dengan mudah membaca dan menyelesaikan “A Farewell to Arms!” Ernest Hemingway (000 kata), Frankenstein karya Mary Shelley (75 kata) dan The Adventures of Tom Sawyer karya Mark Twain (000 kata). Dan seperti yang ditunjukkan The Verge, perusahaan mengklaim bahwa Claude dapat membaca dan menganalisis informasi dari setiap buku dalam waktu kurang dari satu menit.
AI generatif seperti Claude masih dibatasi oleh jumlah "token" yang dapat mereka proses. Seperti yang dijelaskan OpenAI di halaman bantuannya, Anda dapat menganggap token sebagai potongan kata. AI memecah kata menjadi beberapa bagian untuk diproses, dan tidak selalu memotong dari awal hingga akhir setiap kata karena spasi dan karakter lain juga disertakan. Saat ini, model standar OpenAI GPT-4 dapat menangani 8 token, dan versi yang diperluas dapat menangani 000 token. Sementara itu, chatbot publik ChatGPT memiliki batas sekitar 32 token.
Claude sekarang memiliki jendela konteks yang jauh lebih luas daripada semuanya. Selama pengujian, kata Anthropic, itu memuat The Great Gatsby ke AI dan mengubah satu baris untuk mengatakan bahwa Mr. Carraway adalah "insinyur perangkat lunak yang bekerja pada alat pembelajaran mesin di Anthropic." Claude dapat melihat perubahan pada buku tersebut dalam 22 detik.
Jendela konteks AI tingkat lanjut kini tersedia untuk mitra bisnis Antropik menggunakan API-nya. Anthropic mengatakan kemampuan tersebut akan membantu perusahaan dengan cepat memproses dan meringkas laporan keuangan dan penelitian yang banyak, mengevaluasi undang-undang, mengidentifikasi risiko dan argumen dalam dokumen hukum, dan menyisir dokumentasi pengembang yang padat, di antara tugas-tugas lain yang mungkin dilakukan.
Baca juga: