प्रॉम्प्ट डिज़ाइन से जुड़ी रणनीतियां

प्रॉम्प्ट डिज़ाइन, प्रॉम्प्ट या सामान्य भाषा में किए गए अनुरोध बनाने की प्रोसेस है. इससे लैंग्वेज मॉडल से सटीक और अच्छी क्वालिटी के जवाब मिलते हैं.

इस पेज पर, बुनियादी कॉन्सेप्ट, रणनीतियां, और सबसे सही तरीके बताए गए हैं. इनकी मदद से, Gemini के एआई मॉडल का ज़्यादा से ज़्यादा फ़ायदा पाने के लिए, प्रॉम्प्ट डिज़ाइन किए जा सकते हैं.

विषय के हिसाब से प्रॉम्प्ट गाइड

क्या आपको प्रॉम्प्ट बनाने की ज़्यादा खास रणनीतियां चाहिए? इन विषयों पर प्रॉम्प्ट लिखने से जुड़ी हमारी अन्य गाइड देखें:

आपको प्रॉम्प्ट गैलरी में अन्य सैंपल प्रॉम्प्ट मिल सकते हैं. इनका मकसद, इस गाइड में शेयर किए गए कई कॉन्सेप्ट को इंटरैक्टिव तरीके से दिखाना है.

साफ़ और सटीक निर्देश

मॉडल के व्यवहार को अपनी पसंद के मुताबिक बनाने का सबसे असरदार और कारगर तरीका यह है कि उसे साफ़ तौर पर और खास निर्देश दिए जाएं. निर्देश, किसी सवाल के तौर पर दिए जा सकते हैं. इसके अलावा, सिलसिलेवार तरीके से टास्क पूरे करने के लिए भी निर्देश दिए जा सकते हैं. साथ ही, उपयोगकर्ता के अनुभव और सोच को मैप करने जैसे मुश्किल निर्देश भी दिए जा सकते हैं.

इनपुट

इनपुट, प्रॉम्प्ट में मौजूद वह ज़रूरी टेक्स्ट होता है जिसके बारे में आपको मॉडल से जवाब चाहिए. इनपुट, मॉडल से पूछा गया कोई सवाल हो सकता है (सवाल वाला इनपुट). इसके अलावा, मॉडल को दिया गया कोई टास्क (टास्क वाला इनपुट), मॉडल को दी गई कोई इकाई (इकाई वाला इनपुट) या मॉडल को दिया गया कोई अधूरा इनपुट हो सकता है, जिसे मॉडल पूरा करता है या जारी रखता है (पूरा करने वाला इनपुट).

इनपुट का टाइप प्रॉम्प्ट जनरेट किया गया आउटपुट
सवाल 

    What's a good name for a flower shop that specializes in selling bouquets of
    dried flowers? Create a list of 5 options with just the names.
 

    Here are 10 names for a flower shop specializing in dried flowers:

    1. Everlasting Blooms
    2. Dried & Delightful
    3. The Petal Preserve
    4. Whispers of Wildflowers
    5. Forever Blooms
टास्क 
    Give me a simple list of just the things that I must bring on a camping trip. The list should have 5 items.
 
    1. **Tent:** Your shelter from the elements.
    2. **Sleeping Bag:** Stay warm and comfortable.
    3. **Sleeping Pad:** Insulation and cushioning for a good night's sleep.
    4. **Headlamp or Flashlight:** Light for nighttime activities.
    5. **First Aid Kit:** Be prepared for minor injuries.
इकाई 

    Classify the following items as [large, small]:
Elephant
Mouse
Snail
 

Here's the classification:

* **Elephant:** Large
* **Mouse:** Small
* **Snail:** Small

इनपुट को कुछ हद तक पूरा करना

जनरेटिव लैंग्वेज मॉडल, अपने-आप पूरे होने की सुविधा देने वाले बेहतर टूल की तरह काम करते हैं. अधूरा कॉन्टेंट देने पर, मॉडल बाकी कॉन्टेंट या उस कॉन्टेंट के हिसाब से जवाब दे सकता है. ऐसा करते समय, अगर आपने कोई उदाहरण या कॉन्टेक्स्ट शामिल किया है, तो मॉडल उन उदाहरणों या कॉन्टेक्स्ट को ध्यान में रख सकता है.

यहां दिए गए उदाहरण में, निर्देश और इकाई के इनपुट के साथ प्रॉम्प्ट दिया गया है:

For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  
{
  "cheeseburger": 0,
  "hamburger": 1,
  "fries": 0,
  "drink": 1
}

मॉडल ने प्रॉम्प्ट के मुताबिक जवाब दिया है. हालांकि, सामान्य भाषा में निर्देश लिखना कभी-कभी मुश्किल हो सकता है. साथ ही, इससे मॉडल को अपने हिसाब से जवाब देने का मौका मिल जाता है. उदाहरण के लिए, किसी रेस्टोरेंट के मेन्यू में कई आइटम हो सकते हैं. JSON रिस्पॉन्स का साइज़ कम करने के लिए, आपको शायद उन आइटम को हटाना पड़े जिनका ऑर्डर नहीं दिया गया था. इस मामले में, उदाहरण और जवाब का प्रीफ़िक्स दिया जा सकता है. इसके बाद, मॉडल को जवाब पूरा करने के लिए कहा जा सकता है:

Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  
```
{
  "hamburger": 2,
  "drink": 1,
  "fries": 1
}
```

ध्यान दें कि "चीज़बर्गर" को आउटपुट से हटा दिया गया है, क्योंकि यह ऑर्डर का हिस्सा नहीं था.

कंस्ट्रेंट

प्रॉम्प्ट को पढ़ने या जवाब जनरेट करने से जुड़ी किसी भी तरह की पाबंदी के बारे में बताएं. मॉडल को यह बताया जा सकता है कि उसे क्या करना है और क्या नहीं. उदाहरण के लिए, प्रॉम्प्ट में यह बताया जा सकता है कि आपको जवाब में कितनी लंबी जानकारी चाहिए:

Summarize this text in one sentence:
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    

      Exploiting quantum mechanical phenomena, quantum computers can perform calculations exponentially faster than traditional computers for potential applications like cybersecurity and meteorology, although they are currently largely experimental and impractical.

जवाब का फ़ॉर्मैट

जवाब के फ़ॉर्मैट के बारे में निर्देश दिए जा सकते हैं. उदाहरण के लिए, जवाब को टेबल, बुलेट वाली सूची, एलिवेटर पिच, कीवर्ड, वाक्य या पैराग्राफ़ के तौर पर फ़ॉर्मैट करने के लिए कहा जा सकता है. सिस्टम के इस निर्देश से मॉडल को अपने जवाब में बातचीत के लहज़े का इस्तेमाल करने के लिए कहा गया है:

    All questions should be answered comprehensively with details, unless the user requests a concise response specifically.
  
    What is a smart way to make a business that sells DVD's in 2025?
  
Starting a business selling DVDs in 2025 presents significant challenges due to the overwhelming dominance of digital streaming and on-demand services; a "smart" approach would therefore require a highly specialized niche, a strong value proposition beyond just the disc, and likely a focus on community or collector markets rather than mainstream consumption.

Here's a breakdown of what a smart DVD business in 2025 would likely entail:

1. Extreme Niche Specialization: You cannot compete with streaming libraries. Your business must focus on what digital doesn't offer easily or at all. This could include:

    * Out-of-Print & Rare Titles: Sourcing films or TV shows that have never been released digitally or are currently unavailable on major streaming platforms.
    ....

जवाबों को पूरा करने की रणनीति के हिसाब से फ़ॉर्मैट करना

जवाब पूरा करने की रणनीति से भी जवाब को फ़ॉर्मैट करने में मदद मिल सकती है. यहां दिए गए उदाहरण में, मॉडल को निबंध की आउटलाइन बनाने के लिए कहा गया है:

Create an outline for an essay about hummingbirds.
  
Here is a possible outline for an essay about hummingbirds:

I. Introduction
A. Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
B. Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds.
C. Thesis Statement: State the main point of the essay, which could be about the remarkable adaptations, behaviors, and ecological importance of hummingbirds.

II. Appearance and Identification
.....

प्रॉम्प्ट में आउटलाइन का फ़ॉर्मैट नहीं बताया गया था. इसलिए, मॉडल ने आपके लिए कोई फ़ॉर्मैट चुना है. मॉडल से किसी खास फ़ॉर्मैट में आउटलाइन पाने के लिए, आउटलाइन की शुरुआत में टेक्स्ट जोड़ा जा सकता है. इसके बाद, मॉडल को उस पैटर्न के हिसाब से आउटलाइन पूरी करने दें जिसे आपने शुरू किया है.

Create an outline for an essay about hummingbirds.
I. Introduction
   *
  
Okay, here is an outline for an essay about hummingbirds, starting from the introduction you provided:

I. Introduction
* Hook: Start with a captivating fact or description about hummingbirds (e.g., their speed, iridescent colors, or tiny size).
* Background: Briefly introduce hummingbirds – where they are found (Americas), their reputation as unique birds, and their general characteristics.
* Thesis Statement: State the main point of the essay, focusing on the remarkable adaptations, behaviors, and ecological significance that make hummingbirds extraordinary.
.....

ज़ीरो-शॉट प्रॉम्प्ट बनाम फ़्यू-शॉट प्रॉम्प्ट

प्रॉम्प्ट में ऐसे उदाहरण शामिल किए जा सकते हैं जिनसे मॉडल को यह पता चले कि सही जवाब कैसा होता है. यह मॉडल, उदाहरणों से पैटर्न और संबंधों की पहचान करने की कोशिश करता है. साथ ही, जवाब जनरेट करते समय उन्हें लागू करता है. जिन प्रॉम्प्ट में कुछ उदाहरण शामिल होते हैं उन्हें उदाहरण के साथ डाले गए प्रॉम्प्ट कहा जाता है. वहीं, जिन प्रॉम्प्ट में कोई उदाहरण शामिल नहीं होता उन्हें बिना उदाहरण वाले प्रॉम्प्ट कहा जाता है. कुछ उदाहरणों वाले प्रॉम्प्ट का इस्तेमाल अक्सर, मॉडल के जवाबों के फ़ॉर्मैट, शब्दों, स्कोप या सामान्य पैटर्न को कंट्रोल करने के लिए किया जाता है. मॉडल को ज़्यादा सटीक नतीजे जनरेट करने में मदद करने के लिए, अलग-अलग और खास उदाहरणों का इस्तेमाल करें.

हमारा सुझाव है कि आप अपने प्रॉम्प्ट में हमेशा कुछ उदाहरण शामिल करें. कुछ उदाहरणों के बिना दिए गए प्रॉम्प्ट, कम असरदार हो सकते हैं. अगर आपके उदाहरणों में टास्क को साफ़ तौर पर दिखाया गया है, तो प्रॉम्प्ट से निर्देशों को हटाया जा सकता है.

नीचे दिए गए ज़ीरो-शॉट प्रॉम्प्ट में, मॉडल से सबसे सही जवाब चुनने के लिए कहा गया है.

Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Explanation1 is the better explanation because it provides more detail on the
process, including how ice crystals combine and grow into snowflakes as they
fall through the atmosphere.

अगर आपको मॉडल से छोटे जवाब चाहिए, तो प्रॉम्प्ट में ऐसे उदाहरण शामिल करें जिनमें छोटे जवाबों को प्राथमिकता दी गई हो.

यहां दिए गए प्रॉम्प्ट में दो ऐसे उदाहरण दिए गए हैं जिनमें छोटे जवाबों को प्राथमिकता दी गई है. जवाब में, आपको दिखेगा कि उदाहरणों की मदद से मॉडल को, लंबे जवाब (Explanation1) के बजाय छोटा जवाब (Explanation2) चुनने के लिए कहा गया है. ऐसा पहले नहीं किया गया था.

Below are some examples showing a question, explanation, and answer format:

Question: Why is the sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes
shorter blue wavelengths of light to be scattered more easily than longer red
wavelengths, making the sky look blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break
apart, causing a release of energy that creates seismic waves that can shake the
ground and cause damage.
Answer: Explanation1

Now, Answer the following question given the example formats above:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice
crystals in the atmosphere, which can combine and grow into snowflakes as they
fall through the atmosphere and accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  
Answer: Explanation2

उदाहरणों की सही संख्या

Gemini जैसे मॉडल, कुछ उदाहरणों का इस्तेमाल करके पैटर्न का पता लगा सकते हैं. हालांकि, बेहतर नतीजे पाने के लिए, आपको प्रॉम्प्ट में दिए जाने वाले उदाहरणों की संख्या के साथ एक्सपेरिमेंट करना पड़ सकता है. हालांकि, अगर बहुत ज़्यादा उदाहरण शामिल किए जाते हैं, तो मॉडल, उदाहरणों के हिसाब से जवाब देने के लिए ओवरफ़िट हो सकता है.

पैटर्न बनाम एंटी पैटर्न

मॉडल को फ़ॉलो करने के लिए पैटर्न दिखाने वाले उदाहरणों का इस्तेमाल करना, मॉडल को बचने के लिए एंटी पैटर्न दिखाने वाले उदाहरणों का इस्तेमाल करने से ज़्यादा असरदार होता है.

⛔ नेगेटिव पैटर्न:

Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?

✅ पॉज़िटिव पैटर्न:

Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write

एक ही तरह का फ़ॉर्मैट इस्तेमाल करना

पक्का करें कि कुछ उदाहरणों का स्ट्रक्चर और फ़ॉर्मैटिंग एक जैसी हो, ताकि आपको ऐसे जवाब न मिलें जो आपके काम के न हों. प्रॉम्प्ट में कुछ उदाहरण जोड़ने का मुख्य मकसद, मॉडल को जवाब का फ़ॉर्मैट दिखाना है. इसलिए, यह ज़रूरी है कि सभी उदाहरणों में एक जैसा फ़ॉर्मैट हो. खास तौर पर, एक्सएमएल टैग, व्हाइट स्पेस, नई लाइनें, और उदाहरणों को अलग करने वाले वर्णों पर ध्यान दें.

कॉन्टेक्स्ट जोड़ना

मॉडल को किसी समस्या को हल करने के लिए, प्रॉम्प्ट में निर्देश और जानकारी दी जा सकती है. यह मानकर न चलें कि मॉडल के पास सभी ज़रूरी जानकारी है. इस कॉन्टेक्स्ट वाली जानकारी से मॉडल को, आपकी दी गई सीमाओं और उस काम की जानकारी को समझने में मदद मिलती है जिसे करने के लिए आपने कहा है.

यहां दिए गए उदाहरण में, मॉडल से राउटर से जुड़ी समस्या हल करने के बारे में जानकारी देने के लिए कहा गया है:

What should I do to fix my disconnected wifi? The light on my Google
Wifi router is yellow and blinking slowly.
  
  A yellow blinking light on your Google Wifi router usually indicates a problem
  with the internet connection. Here are some steps to troubleshoot and fix the
  issue:
  1. Restart your router and modem:
    - Unplug your modem from the power outlet and wait for 30 seconds.
    - Plug your modem back in and wait for it to fully boot up.
    - Unplug your Google Wifi router and wait for 30 seconds.
    - Plug your Google Wifi router back in and wait for it to fully boot up.
.....

जवाब में, समस्या हल करने के बारे में सामान्य जानकारी दी गई है. इसमें न तो राउटर के बारे में खास जानकारी दी गई है और न ही एलईडी इंडिकेटर लाइट की स्थिति के बारे में.

किसी खास राउटर के लिए जवाब को पसंद के मुताबिक बनाने के लिए, प्रॉम्प्ट में राउटर की समस्या हल करने से जुड़ी गाइड जोड़ें. इससे, जवाब देते समय राउटर को संदर्भ के तौर पर गाइड का इस्तेमाल करने में मदद मिलेगी.

Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

प्रीफ़िक्स जोड़ना

प्रीफ़िक्स, एक शब्द या वाक्यांश होता है. इसे प्रॉम्प्ट के कॉन्टेंट में जोड़ा जाता है. इसका इस्तेमाल कई तरह से किया जा सकता है. हालांकि, यह इस बात पर निर्भर करता है कि प्रीफ़िक्स को कहां जोड़ा गया है:

  • इनपुट प्रीफ़िक्स: मॉडल के इनपुट में, सिमैंटिक तौर पर काम के हिस्सों में प्रीफ़िक्स जोड़ना. उदाहरण के लिए, "English:" और "French:" प्रीफ़िक्स, दो अलग-अलग भाषाओं को दिखाते हैं.
  • आउटपुट प्रीफ़िक्स: आउटपुट मॉडल से जनरेट होता है. हालांकि, प्रॉम्प्ट में आउटपुट के लिए प्रीफ़िक्स जोड़ा जा सकता है. आउटपुट प्रीफ़िक्स से मॉडल को यह जानकारी मिलती है कि जवाब के तौर पर क्या चाहिए. उदाहरण के लिए, आउटपुट प्रीफ़िक्स "JSON:" मॉडल को यह बताता है कि आउटपुट JSON फ़ॉर्मैट में होना चाहिए.
  • प्रीफ़िक्स का उदाहरण: फ़्यू-शॉट प्रॉम्प्ट में, उदाहरणों में प्रीफ़िक्स जोड़ने से ऐसे लेबल मिलते हैं जिनका इस्तेमाल मॉडल, आउटपुट जनरेट करते समय कर सकता है. इससे आउटपुट कॉन्टेंट को पार्स करना आसान हो जाता है.

यहां दिए गए उदाहरण में, "Text:" इनपुट प्रीफ़िक्स है और "The answer is:" आउटपुट प्रीफ़िक्स है.

Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  
The answer is: large

प्रॉम्प्ट को कॉम्पोनेंट में बांटना

जिन मामलों में मुश्किल प्रॉम्प्ट की ज़रूरत होती है उनमें मॉडल को इस मुश्किल काम को मैनेज करने में मदद की जा सकती है. इसके लिए, चीज़ों को आसान कॉम्पोनेंट में तोड़ें.

  1. निर्देशों को अलग-अलग हिस्सों में बांटें: एक ही प्रॉम्प्ट में कई निर्देश देने के बजाय, हर निर्देश के लिए अलग-अलग प्रॉम्प्ट बनाएं. आपके पास यह चुनने का विकल्प होता है कि उपयोगकर्ता के इनपुट के आधार पर, किस प्रॉम्प्ट को प्रोसेस करना है.

  2. चेन प्रॉम्प्ट: ऐसे मुश्किल टास्क के लिए जिनमें एक के बाद एक कई चरण शामिल होते हैं, हर चरण को एक प्रॉम्प्ट बनाएं और प्रॉम्प्ट को एक क्रम में एक साथ जोड़ें. प्रॉम्प्ट की इस सीक्वेंशियल चेन में, क्रम में मौजूद किसी प्रॉम्प्ट का आउटपुट, अगले प्रॉम्प्ट का इनपुट बन जाता है. सीक्वेंस में मौजूद आखिरी प्रॉम्प्ट का आउटपुट, फ़ाइनल आउटपुट होता है.

  3. जवाबों को एग्रीगेट करना: एग्रीगेशन तब किया जाता है, जब आपको डेटा के अलग-अलग हिस्सों पर अलग-अलग पैरलल टास्क करने हों. साथ ही, फ़ाइनल आउटपुट जनरेट करने के लिए, नतीजों को एग्रीगेट करना हो. उदाहरण के लिए, मॉडल को यह निर्देश दिया जा सकता है कि वह डेटा के पहले हिस्से पर एक ऑपरेशन करे, बाकी डेटा पर दूसरा ऑपरेशन करे, और फिर नतीजों को इकट्ठा करे.

मॉडल के पैरामीटर के साथ एक्सपेरिमेंट करना

मॉडल को भेजे जाने वाले हर कॉल में, पैरामीटर की वैल्यू शामिल होती हैं. इनसे यह कंट्रोल किया जाता है कि मॉडल किस तरह से जवाब जनरेट करे. मॉडल, पैरामीटर की अलग-अलग वैल्यू के लिए अलग-अलग नतीजे जनरेट कर सकता है. टास्क के लिए सबसे अच्छी वैल्यू पाने के लिए, पैरामीटर की अलग-अलग वैल्यू आज़माएं. अलग-अलग मॉडल के लिए उपलब्ध पैरामीटर अलग-अलग हो सकते हैं. सबसे ज़्यादा इस्तेमाल किए जाने वाले पैरामीटर ये हैं:

  1. ज़्यादा से ज़्यादा आउटपुट टोकन: इससे यह तय किया जाता है कि जवाब में ज़्यादा से ज़्यादा कितने टोकन जनरेट किए जा सकते हैं. एक टोकन में करीब चार वर्ण होते हैं. 100 टोकन का मतलब करीब 60 से 80 शब्द होता है.

  2. तापमान: तापमान से यह तय होता है कि टोकन को कितनी बार रैंडम तरीके से चुना जाएगा. जवाब जनरेट करने के दौरान, सैंपलिंग के लिए तापमान का इस्तेमाल किया जाता है. ऐसा तब होता है, जब topP और topK लागू किए जाते हैं. कम तापमान, उन प्रॉम्प्ट के लिए अच्छा होता है जिनके लिए ज़्यादा सटीक या कम ओपन-एंडेड जवाब की ज़रूरत होती है. वहीं, ज़्यादा तापमान से अलग-अलग तरह के या क्रिएटिव नतीजे मिल सकते हैं. टेंपरेचर 0 होने का मतलब है कि जवाब तय होता है. इसका मतलब है कि सबसे ज़्यादा संभावना वाले जवाब को हमेशा चुना जाता है.

  3. topK: topK पैरामीटर से, मॉडल के आउटपुट के लिए टोकन चुनने के तरीके में बदलाव होता है. topK की वैल्यू 1 होने का मतलब है कि मॉडल के शब्दावली में मौजूद सभी टोकन में से, चुना गया टोकन सबसे ज़्यादा संभावित है. इसे ग्रीडी डिकोडिंग भी कहा जाता है. वहीं, topK की वैल्यू 3 होने का मतलब है कि तापमान का इस्तेमाल करके, अगले टोकन को तीन सबसे संभावित टोकन में से चुना गया है. टोकन चुनने के हर चरण में, सबसे ज़्यादा संभावना वाले topK टोकन का सैंपल लिया जाता है. इसके बाद, टोकन को topP के आधार पर फ़िल्टर किया जाता है. आखिर में, तापमान के आधार पर सैंपलिंग करके टोकन चुना जाता है.

  4. topP: topP पैरामीटर से, मॉडल के आउटपुट के लिए टोकन चुनने के तरीके में बदलाव होता है. टोकन, सबसे ज़्यादा से लेकर सबसे कम संभावना वाले क्रम में तब तक चुने जाते हैं, जब तक उनकी संभावनाओं का योग topP वैल्यू के बराबर न हो जाए. उदाहरण के लिए, अगर टोकन A, B, और C की संभावना 0.3, 0.2, और 0.1 है और topP की वैल्यू 0.5 है, तो मॉडल, तापमान का इस्तेमाल करके अगले टोकन के तौर पर A या B में से किसी एक को चुनेगा. साथ ही, C को उम्मीदवार के तौर पर शामिल नहीं करेगा. डिफ़ॉल्ट topP वैल्यू 0.95 है.

  5. stop_sequences: स्टॉप सीक्वेंस सेट करें, ताकि मॉडल को कॉन्टेंट जनरेट करने से रोका जा सके. स्टॉप सीक्वेंस, वर्णों का कोई भी क्रम हो सकता है. वर्णों के ऐसे क्रम का इस्तेमाल करने से बचें जो जनरेट किए गए कॉन्टेंट में दिख सकते हैं.

प्रॉम्प्ट को बेहतर बनाने की रणनीतियां

कभी-कभी, आपको अपनी ज़रूरत के मुताबिक जवाब पाने के लिए, प्रॉम्प्ट डिज़ाइन को कुछ बार दोहराना पड़ सकता है. इस सेक्शन में, प्रॉम्प्ट को बेहतर बनाने के लिए कुछ सुझाव दिए गए हैं:

  1. अलग-अलग शब्दों का इस्तेमाल करें: अपने प्रॉम्प्ट में अलग-अलग शब्दों या वाक्यांशों का इस्तेमाल करने से, मॉडल से अक्सर अलग-अलग जवाब मिलते हैं. भले ही, उन सभी का मतलब एक ही हो. अगर आपको अपने प्रॉम्प्ट से उम्मीद के मुताबिक नतीजे नहीं मिल रहे हैं, तो उसे फिर से लिखें.

    Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?

  2. मिलते-जुलते टास्क पर स्विच करें: अगर मॉडल, किसी टास्क के लिए दिए गए आपके निर्देशों का पालन नहीं कर रहा है, तो उसे मिलते-जुलते किसी ऐसे टास्क के लिए निर्देश दें जिससे वही नतीजा मिले.

    इस प्रॉम्प्ट से मॉडल को, पहले से तय की गई कैटगरी का इस्तेमाल करके किसी किताब को कैटगरी में बांटने के लिए कहा गया है:

    Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  
        The Odyssey belongs to the category of **mythology**. 

    Here's why:

    * **Mythology:** The Odyssey tells the story of Odysseus, a hero from Greek mythology, and his
    journey home after the Trojan War. It features gods, monsters, and supernatural events common to
    Greek mythology.
.....

    जवाब सही है, लेकिन मॉडल ने विकल्पों के दायरे में रहकर जवाब नहीं दिया. आपको मॉडल से यह भी कहना है कि वह पूरे वाक्य में जवाब देने के बजाय, सिर्फ़ एक विकल्प के साथ जवाब दे. इस मामले में, निर्देशों को जवाब के कई विकल्पों वाले सवाल के तौर पर फिर से लिखा जा सकता है. साथ ही, मॉडल से कोई विकल्प चुनने के लिए कहा जा सकता है.

    Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
    


      

    • thriller
      • 

    • sci-fi
      • 

    • mythology
      • 

    • biography

    The correct answer is mythology.

  3. प्रॉम्प्ट में मौजूद कॉन्टेंट का क्रम बदलना: कभी-कभी, प्रॉम्प्ट में मौजूद कॉन्टेंट के क्रम से जवाब पर असर पड़ सकता है. कॉन्टेंट का क्रम बदलकर देखें कि इससे जवाब पर क्या असर पड़ता है.

    Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

फ़ॉलबैक जवाब

फ़ॉलबैक रिस्पॉन्स, मॉडल से मिला ऐसा जवाब होता है जो तब मिलता है, जब प्रॉम्प्ट या जवाब, सुरक्षा फ़िल्टर को ट्रिगर करता है. फ़ॉलबैक जवाब का एक उदाहरण यह है: "मैं इसमें आपकी मदद नहीं कर सकता, क्योंकि मैं सिर्फ़ एक लैंग्वेज मॉडल हूं."

अगर मॉडल फ़ॉलबैक जवाब देता है, तो तापमान बढ़ाएं.

ऐसा करने से बचें

  • तथ्यात्मक जानकारी जनरेट करने के लिए, मॉडल पर भरोसा न करें.
  • गणित और तर्क से जुड़ी समस्याओं को हल करने के लिए, इसका इस्तेमाल सावधानी से करें.

जनरेटिव मॉडल के काम करने का तरीका

इस सेक्शन में, इस सवाल का जवाब दिया गया है - क्या जनरेटिव मॉडल के जवाबों में कुछ हद तक अनिश्चितता होती है या वे पूरी तरह से तय होते हैं?

इसका जवाब है - हां, दोनों को. जनरेटिव मॉडल को प्रॉम्प्ट देने पर, टेक्स्ट वाला जवाब दो चरणों में जनरेट होता है. पहले चरण में, जनरेटिव मॉडल, इनपुट प्रॉम्प्ट को प्रोसेस करता है. इसके बाद, वह संभावित टोकन (शब्दों) के लिए संभाव्यता डिस्ट्रिब्यूशन जनरेट करता है. ये ऐसे टोकन होते हैं जो अगले टोकन के तौर पर इस्तेमाल किए जा सकते हैं. उदाहरण के लिए, अगर आपने "कुत्ता ... के ऊपर से कूद गया " टेक्स्ट का इस्तेमाल करके प्रॉम्प्ट दिया है, तो जनरेटिव मॉडल, अगले शब्दों की एक संभावित सूची तैयार करेगा:

[("fence", 0.77), ("ledge", 0.12), ("blanket", 0.03), ...]

यह प्रोसेस डिटरमिनिस्टिक होती है. इसका मतलब है कि जनरेटिव मॉडल, एक ही प्रॉम्प्ट टेक्स्ट को इनपुट के तौर पर इस्तेमाल करने पर, हर बार यही डिस्ट्रिब्यूशन जनरेट करेगा.

दूसरे चरण में, जनरेटिव मॉडल इन डिस्ट्रिब्यूशन को कई डिकोडिंग रणनीतियों में से किसी एक के ज़रिए, टेक्स्ट के जवाबों में बदलता है. डिकोडिंग की सामान्य रणनीति, हर टाइमस्टेप पर सबसे संभावित टोकन चुन सकती है. यह प्रोसेस हमेशा एक जैसी होगी. हालांकि, इसके बजाय मॉडल से मिले डिस्ट्रिब्यूशन के आधार पर, रैंडम सैंपलिंग करके जवाब जनरेट किया जा सकता है. यह प्रोसेस स्टोकैस्टिक (रैंडम) होगी. तापमान सेट करके, इस डिकोडिंग प्रोसेस में रैंडमनेस की डिग्री को कंट्रोल करें. तापमान 0 का मतलब है कि सिर्फ़ सबसे संभावित टोकन चुने जाते हैं और इसमें कोई रैंडमनेस नहीं होती. इसके उलट, ज़्यादा तापमान होने पर मॉडल के चुने गए टोकन में काफ़ी हद तक रैंडमनेस आ जाती है. इससे मॉडल के जवाब ज़्यादा अप्रत्याशित और हैरान करने वाले होते हैं.

अगले चरण