Bagaimana Cara Menggunakan Parser Output di LangChain?

Bagaimana Cara Menggunakan Parser Output Di Langchain



LangChain adalah framework yang berisi semua dependensi dan pustaka untuk membangun model yang dapat menghasilkan keluaran berupa teks. Teks keluaran diekstraksi atau dihasilkan dalam bahasa alami sehingga manusia dapat memahami dan berkomunikasi dengan mudah. Namun, keluarannya harus dalam format yang tepat dan informasi yang baik dan terstruktur dapat memberikan pengetahuan yang komprehensif kepada pengguna.

Posting ini mengilustrasikan metode penggunaan fungsi dan kelas parser keluaran melalui kerangka LangChain.

Bagaimana Cara Menggunakan Parser Output Melalui LangChain?

Parser keluaran adalah keluaran dan kelas yang dapat membantu mendapatkan keluaran terstruktur dari model. Untuk mempelajari proses penggunaan parser keluaran di LangChain, cukup lakukan langkah-langkah berikut:







Langkah 1: Instal Modul
Pertama, mulailah proses penggunaan parser keluaran dengan menginstal modul LangChain beserta dependensinya untuk menjalani proses:



pip Install rantailang



Setelah itu, instal modul OpenAI untuk menggunakan perpustakaannya seperti OpenAI dan ChatOpenAI:





pip Install terbuka

Sekarang, siapkan lingkungan untuk OpenAI menggunakan kunci API dari akun OpenAI:



impor kami
impor getpass

os.lingkungan [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'Kunci API OpenAI:' )

Langkah 2: Impor Perpustakaan
Langkah selanjutnya adalah mengimpor perpustakaan dari LangChain untuk menggunakan parser keluaran dalam kerangka kerja:

dari langchain.prompts impor PromptTemplate
dari langchain.prompts impor HumanMessagePromptTemplate
dari bidang impor pydantic
dari langchain.prompts impor ChatPromptTemplate
dari langchain.output_parsers impor PydanticOutputParser
dari impor pydantic BaseModel
dari validator impor pydantic
dari langchain.chat_models impor ChatOpenAI
dari langchain.llms impor OpenAI
dari mengetik Daftar impor

Langkah 3: Membangun Struktur Data
Membangun struktur keluaran adalah penerapan penting parser keluaran dalam Model Bahasa Besar. Sebelum masuk ke struktur data model, kita perlu menentukan nama model yang kita gunakan untuk mendapatkan keluaran terstruktur dari parser keluaran:

nama_model = 'teks-davinci-003'
suhu = 0,0
model = OpenAI ( nama model =nama_model, suhu =suhu )

Sekarang, gunakan kelas Joke yang berisi BaseModel untuk mengonfigurasi struktur output guna mendapatkan lelucon dari model. Setelah itu, pengguna dapat menambahkan logika validasi khusus dengan mudah menggunakan kelas pydantic yang dapat meminta pengguna untuk memasukkan kueri/prompt dengan bentuk yang lebih baik:

lelucon kelas ( Model Dasar ) :
pengaturan: str = Bidang ( keterangan = 'permintaan untuk menampilkan lelucon' )
lucunya: str = Bidang ( keterangan = 'membalas pertanyaan dengan lelucon' )
#Validasi logika untuk kueri karena model perlu memahaminya dengan benar
@ validator ( 'mempersiapkan' )
def question_ends_with_question_mark ( kl, lapangan ) :
jika bidang [ - 1 ] ! = '?' :
naikkan ValueError ( 'Pertanyaan yang bentuknya buruk!' )
kembali bidang

Langkah 4: Mengatur Templat Prompt
Konfigurasikan variabel parser yang berisi metode PydanticOutputParser() yang berisi parameternya:

parser = PydanticOutputParser ( pydantic_object = Lelucon )

Setelah mengonfigurasi parser, cukup tentukan variabel prompt menggunakan metode PromptTemplate() dengan struktur kueri/prompt:

prompt = Templat Prompt (
templat = 'Jawab pertanyaan pengguna. \N {format_instructions} \N {pertanyaan} \N ' ,
masukan_variabel = [ 'pertanyaan' ] ,
parsial_variabel = { 'format_instruksi' : parser.get_format_instructions ( ) }
)

Langkah 5: Uji Parser Output
Setelah mengonfigurasi semua persyaratan, buat variabel yang ditetapkan menggunakan kueri lalu panggil metode format_prompt():

lelucon_permintaan = 'Ceritakan padaku sebuah lelucon'
_input = prompt.format_prompt ( pertanyaan =lelucon_query )

Sekarang, panggil fungsi model() untuk mendefinisikan variabel keluaran:

keluaran = model ( _input.ke_string ( ) )

Selesaikan proses pengujian dengan memanggil metode parser() dengan variabel output sebagai parameternya:

parser.parse ( keluaran )

Sekian tentang proses penggunaan parser keluaran di LangChain.

Kesimpulan

Untuk menggunakan parser keluaran di LangChain, instal modul dan atur lingkungan OpenAI menggunakan kunci API-nya. Setelah itu, tentukan model lalu konfigurasikan struktur data output dengan validasi logika query yang diberikan oleh pengguna. Setelah struktur data dikonfigurasi, cukup atur templat prompt, lalu uji parser keluaran untuk mendapatkan hasil dari model. Panduan ini telah mengilustrasikan proses penggunaan parser keluaran dalam kerangka LangChain.