Sintaksis:
Ada berbagai layanan yang disediakan oleh Hugging Face tetapi salah satu layanan yang banyak digunakan adalah “API”. API memungkinkan interaksi AI terlatih dan model bahasa besar ke berbagai aplikasi. Hugging Face menyediakan API untuk berbagai model seperti yang tercantum berikut ini:
- Model pembuatan teks
- Model terjemahan
- Model untuk analisis sentimen
- Model untuk pengembangan agen virtual (bot obrolan cerdas)
- Klasifikasi dan model regresi
Sekarang mari temukan metode untuk mendapatkan API inferensi yang dipersonalisasi dari Hugging Face. Untuk melakukannya, pertama-tama kita harus mulai dengan mendaftarkan diri kita di situs resmi Hugging Face. Bergabunglah dengan komunitas Hugging Face ini dengan mendaftar ke situs web ini dengan kredensial Anda.
Setelah kami mendapatkan akun di Hugging Face, kami sekarang harus meminta API inferensi. Untuk meminta API, buka pengaturan akun dan pilih 'Token Akses'. Jendela baru akan terbuka. Pilih opsi 'Token Baru' dan kemudian hasilkan token dengan terlebih dahulu memberikan nama token dan perannya sebagai 'WRITE'. Token baru dihasilkan. Sekarang, kita harus menyimpan token ini. Sampai saat ini, kami memiliki token kami dari Wajah Pelukan. Pada contoh berikutnya, kita akan melihat bagaimana kita dapat menggunakan token ini untuk mendapatkan API inferensi.
Contoh 1: Cara Membuat Prototipe dengan Hugging Face Inference API
Sejauh ini, kami membahas metode tentang cara memulai Hugging Face dan kami menginisialisasi token dari Hugging Face. Contoh ini menunjukkan bagaimana kita dapat menggunakan token yang baru dibuat ini untuk mendapatkan API inferensi untuk model tertentu (pembelajaran mesin) dan membuat prediksi melaluinya. Dari beranda Hugging Face pilih model apa saja yang ingin Anda kerjakan yang relevan dengan masalah Anda. Katakanlah kita ingin bekerja dengan klasifikasi teks atau model analisis sentimen seperti yang ditunjukkan dalam cuplikan daftar model berikut ini:
Kami memilih model analisis sentimen dari model ini.
Setelah memilih model, kartu modelnya akan muncul. Kartu model ini berisi informasi mengenai detail pelatihan model dan karakteristik apa yang dimiliki model tersebut. Model kami adalah basis-roBERTa yang dilatih pada 58 juta tweet untuk analisis sentimen. Model ini memiliki tiga label kelas utama dan mengkategorikan setiap masukan ke dalam label kelas yang relevan.
Setelah pemilihan model, jika kita memilih tombol penerapan yang ada di pojok kanan atas jendela, menu drop-down akan terbuka. Dari menu ini, kita perlu memilih opsi 'Inference API'.
API inferensi kemudian memberikan penjelasan menyeluruh tentang cara menggunakan model khusus ini dengan inferensi ini dan memungkinkan kami membuat prototipe untuk model AI dengan cepat. Jendela API inferensi menampilkan kode yang ditulis dalam skrip Python.
Kami menyalin kode ini dan menjalankan kode ini di salah satu IDE Python. Kami menggunakan Google Colab untuk ini. Setelah mengeksekusi kode ini di shell Python, ia mengembalikan output yang disertakan dengan skor dan prediksi label. Label dan skor ini diberikan sesuai dengan masukan kami karena kami memilih model “analisis sentimen teks”. Kemudian, input yang kita berikan ke model adalah kalimat positif dan model tersebut dilatih sebelumnya pada tiga kelas label: label 0 menyiratkan negatif, label1 menyiratkan netral, dan label 2 disetel ke positif. Karena input kita adalah kalimat positif, prediksi skor dari model lebih banyak dari dua label lainnya yang berarti bahwa model memprediksi kalimat tersebut sebagai “positif”.
impor permintaanAPI_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
header = { 'Otorisasi' : 'Pembawa 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' }
def pertanyaan ( muatan ) :
tanggapan = permintaan. pos ( API_URL , header = header , json = muatan )
kembali tanggapan. json ( )
keluaran = pertanyaan ( {
'masukan' : 'Aku merasa nyaman saat kau bersamaku' ,
} )
Keluaran:
Contoh 2: Model Peringkasan melalui Inferensi
Kami mengikuti langkah-langkah yang sama seperti yang ditunjukkan pada contoh sebelumnya dan membuat prototipe bus model peringkasan menggunakan API inferensi dari Hugging Face. Model peringkasan adalah model pra-terlatih yang meringkas seluruh teks yang kami berikan sebagai inputnya. Buka akun Hugging Face, klik model dari bilah menu atas, lalu pilih model yang relevan dengan ringkasan, pilih, dan baca kartu modelnya dengan cermat.
Model yang kami pilih adalah model BART terlatih dan disesuaikan dengan dataset CNN dail mail. BART adalah model yang paling mirip dengan model BERT yang memiliki encoder dan decoder. Model ini efektif ketika disesuaikan untuk tugas pemahaman, peringkasan, terjemahan, dan pembuatan teks.
Kemudian, pilih tombol 'penyebaran' dari sudut kanan atas dan pilih API inferensi dari menu drop-down. API inferensi membuka jendela lain yang berisi kode dan petunjuk untuk menggunakan model ini dengan inferensi ini.
Salin kode ini dan jalankan di shell Python.
Model mengembalikan output yang merupakan ringkasan dari input yang kami berikan padanya.
Kesimpulan
Kami mengerjakan Hugging Face Inference API dan mempelajari bagaimana kami dapat menggunakan antarmuka aplikasi yang dapat diprogram ini untuk bekerja dengan model bahasa terlatih. Dua contoh yang kami lakukan di artikel ini sebagian besar didasarkan pada model NLP. Hugging Face API dapat bekerja dengan sangat baik jika kita ingin mengembangkan prototipe cepat dengan menyediakan integrasi model AI yang cepat ke dalam aplikasi kita. Singkatnya, Hugging Face memiliki solusi untuk semua masalah Anda mulai dari pembelajaran penguatan hingga visi komputer.