Bagaimana Cara Menjalankan LLMChains di LangChain?

Bagaimana Cara Menjalankan Llmchains Di Langchain



LangChain adalah kerangka kerja yang memungkinkan pengembang membangun Model Bahasa Besar atau model obrolan yang dapat digunakan manusia untuk mengekstrak informasi. Model ini dapat digunakan untuk berinteraksi dalam bahasa alami, setelah memahami perintah untuk menghasilkan teks yang sesuai. LLM atau chatbots menggunakan rantai untuk berinteraksi dengan manusia dengan menyimpan pesan-pesan sebelumnya sebagai observasi untuk mendapatkan konteks obrolan.

Panduan ini akan menggambarkan proses menjalankan LLMChains di LangChain.

Bagaimana Cara Menjalankan LLMChains di LangChain?

LangChain menyediakan fitur atau dependensi untuk membangun LLMChains menggunakan LLM/Chatbots dan template prompt. Untuk mempelajari proses membangun dan menjalankan LLMChains di LangChain, cukup ikuti panduan langkah berikut:







Langkah 1: Instal Paket

Pertama, mulailah proses dengan menginstal modul LangChain untuk mendapatkan dependensinya untuk membangun dan menjalankan LLMChains:



pip instal langchain



Instal kerangka OpenAI menggunakan perintah pip agar perpustakaan menggunakan fungsi OpenAI() untuk membangun LLM:





pip instal openai

Setelah instalasi modul, sederhana saja mengatur lingkungan variabel menggunakan kunci API dari akun OpenAI:



impor Anda

impor dapatkan pass

Anda . sekitar [ 'OPENAI_API_KEY' ] = dapatkan pass . dapatkan pass ( 'Kunci API OpenAI:' )

Langkah 2: Impor Perpustakaan

Setelah penyiapan selesai dan semua paket yang diperlukan telah diinstal, impor pustaka yang diperlukan untuk membuat templat prompt. Setelah itu, cukup buat LLM menggunakan metode OpenAI() dan konfigurasikan LLMChain menggunakan LLM dan template prompt:

dari rantailang impor Templat Prompt

dari rantailang impor OpenAI

dari rantailang impor rantai LLM

prompt_template = 'beri saya judul yang bagus untuk bisnis yang menghasilkan {produk}?'

llm = OpenAI ( suhu = 0 )

llm_chain = rantai LLM (

llm = llm ,

mengingatkan = Templat Prompt. dari_template ( prompt_template )

)

llm_chain ( “pakaian warna warni” )

Langkah 3: Rantai Berjalan

Dapatkan daftar masukan yang berisi berbagai produk yang diproduksi oleh bisnis dan jalankan rantai untuk menampilkan daftar tersebut di layar:

masukan_daftar = [
{ 'produk' : 'kaus kaki' } ,
{ 'produk' : 'komputer' } ,
{ 'produk' : 'sepatu' }
]

llm_chain. menerapkan ( masukan_daftar )

Jalankan metode generate() menggunakan masukan_daftar dengan LLMChains untuk mendapatkan output terkait percakapan yang dihasilkan oleh model:

llm_chain. menghasilkan ( masukan_daftar )

Langkah 4: Menggunakan Input Tunggal

Tambahkan produk lain untuk menjalankan LLMChains hanya dengan menggunakan satu input dan kemudian prediksi LLMChain untuk menghasilkan output:

llm_chain. meramalkan ( produk = “kaus kaki warna warni” )

Langkah 5: Menggunakan Banyak Input

Sekarang, buat template untuk menggunakan beberapa input guna memberikan perintah kepada model sebelum menjalankan rantai:

templat = '''Ceritakan padaku lelucon {kata sifat} tentang {subjek}.'''
mengingatkan = Templat Prompt ( templat = templat , masukan_variabel = [ 'kata sifat' , 'subjek' ] )
llm_chain = rantai LLM ( mengingatkan = mengingatkan , llm = OpenAI ( suhu = 0 ) )

llm_chain. meramalkan ( kata sifat = 'sedih' , subjek = 'bebek' )

Langkah 6: Menggunakan Parser Keluaran

Langkah ini menggunakan metode parser keluaran untuk menjalankan LLMChain guna mendapatkan keluaran berdasarkan perintah:

dari rantailang. keluaran_parser impor CommaSeparatedListOutputParser

keluaran_parser = CommaSeparatedListOutputParser ( )

templat = '''Sebutkan semua warna pelangi'''

mengingatkan = Templat Prompt ( templat = templat , masukan_variabel = [ ] , keluaran_parser = keluaran_parser )

llm_chain = rantai LLM ( mengingatkan = mengingatkan , llm = llm )

llm_chain. meramalkan ( )

Menggunakan metode parse() untuk mendapatkan output akan menghasilkan daftar semua warna pelangi yang dipisahkan koma:

llm_chain. prediksi_dan_parsing ( )

Langkah 7: Inisialisasi Dari String

Langkah ini menjelaskan proses penggunaan string sebagai prompt untuk menjalankan LLMChain menggunakan model dan templat LLM:

templat = '''Ceritakan padaku lelucon {kata sifat} tentang {subjek}'''

llm_chain = rantai LLM. dari_string ( llm = llm , templat = templat )

Berikan nilai variabel dalam prompt string untuk mendapatkan output dari model dengan menjalankan LLMChain:

llm_chain. meramalkan ( kata sifat = 'sedih' , subjek = 'bebek' )

Itu semua tentang menjalankan LLMChains menggunakan kerangka LangChain.

Kesimpulan

Untuk membangun dan menjalankan LLMChains di LangChain, instal prasyarat seperti paket dan atur lingkungan menggunakan kunci API OpenAI. Setelah itu, impor pustaka yang diperlukan untuk mengonfigurasi templat dan model prompt untuk menjalankan LLMChain menggunakan dependensi LangChain. Pengguna dapat menggunakan parser keluaran dan perintah string untuk menjalankan LLMChains seperti yang ditunjukkan dalam panduan ini. Panduan ini telah menguraikan proses lengkap menjalankan LLMChains di LangChain.