চ্যাট জিপিটি কেমন নির্দেশিত হয়?

আপনি কি জানেন যে কথা ChatGPT দিয়ে সম্পর্কিত? আপনি শুনেছেন যে এটি একটি বিস্তৃত করপাস থেকে প্রশিক্ষিত। কিন্তু এটা কী বোঝায়? এই নিবন্ধে আমরা চটজিপিটি কীভাবে প্রশিক্ষণপায়ে তুলে ধরেছি তা নিয়ে বিস্তারিত আলোচনা করব।

চ্যাটজিপিটি একটি পূর্ব-প্রশিক্ষিত বাংলা ভাষা মডেল, যা উন্নয়নের জন্য উপদেশিত এবং পুনরুদ্ধার শিক্ষার পদক্ষেপগুলির সমন্বয় দ্বারা সংশোধিত হয়েছে। চ্যাটজিপিটির প্রশিক্ষণ প্রক্রিয়ায় একটি বৃহত পরিমাণের লেখা তথ্য মডেলে ইনপুট হয় এবং এর প্যারামিটারগুলি সমন্বয় করা হয় যাতে এটি প্রশিক্ষণ করা কর্পাসে লেখা একই ভাবের টেক্সট জেনারেট করতে পারে।

এই প্রক্রিয়ায় উপরোক্ত মডেল দিয়ে তৈরি লেখার সঠিক বা ভুল হওয়ার প্রতি সুস্পষ্ট প্রতিক্রিয়া দেওয়া হয়নি, অর্থাৎ নির্দেশ না দেওয়া হয়নি যে প্রদর্শিত লেখা সঠিক না হলে কিংবা ভুল না হলে। বরং এই মডেলটি ট্রেনিং করা হয় তার সংশ্লিষ্ট কর্পাসের লেখা সম্পর্কে উৎপন্ন লেখার সাথে সাদৃশ থাকতে সক্ষম হওয়ার ভিত্তিতে এর প্যারামিটারগুলি সংশোধিত হয়।

চ্যাটজিপিটিবি-৩, যা এর প্যারেন্ট মডেল, ১৭৫ বিলিয়ন প্যারামিটার এবং ২০৪৮-টোকেন-লম্বা সংশ্লিষ্ট বিশাল ভাষা মডেলগুলির মধ্যে একটি। এটি কমন ক্রল, ওয়েবটেক্সট ২, বুকস ১/২, উইকিপিডিয়া ইংলিশে এবং সি এস এস, জেএসএক্স, পাইথন এবং অন্যান্য প্রোগ্রামিং ভাষার কোডের উদাহরণ থেকে শতকরা বিলিয়ন শব্দের উপর ট্রেনিং করা হয়।

GPT-3 এর জন্য ব্যবহৃত প্রশিক্ষণ পদ্ধতি গেনারেটিভ প্রিট্রেইনিং, যা বোঝার জন্য প্রশিক্ষিত হয় যে ইনপুট বাক্যে পরবর্তী টোকেন বা শব্দটি পূর্বাভাস করতে।

সেরা চ্যাট জিপিটি বিকল্প

নিয়নমিত শেখা

চ্যাটজিপিটি মডেলটি মানব ট্রেইনারদের সুপারভাইজড লার্নিং প্রক্রিয়ার মাধ্যমে ফাইন-টিউন হয়েছিল। এই ট্রেইনাররা সংলাপে জুড়ে যেতে, ব্যবহারকারী এবং এআই সহযোগী উভয় ভূমিকা নিতে।

তাদেরকে মডেল থেকে পরামর্শ দেওয়া হয়েছিল তাদের প্রতিক্রিয়া লেখার জন্য, যা তারপর ইনস্ট্রাক্টজিপিটি ডেটাসেট দিয়ে মিশে যেতে হয়েছিল যা ডায়ালগ ফরম্যাটে রূপান্তরিত করা হয়েছিল।

পুনরাবৃত্তি শিক্ষা

পরবর্তীতে প্রক্রিয়াটি পরিবর্তনগ্রস্ত হয়েছিল প্রক্ষেপ নীতি প্রশিক্ষণ (পিপিও) ব্যবহার করে বর্ধিত হয়েছিল। মানব প্রশিক্ষকরা পূর্ববর্তী কথোপকথন থেকে উত্তরগুলি উত্পন্ন করা মডেল মূল্যায়ন করে এক্কেবারে পুরস্কার মডেল উন্নয়ন করে। তারপর মডেলটি এই পুরস্কার মডেলগুলি ভিত্তিতে ফাইন টিউন করা হয়েছে।

কিছু সমস্ত বিবেচনার পরে ফাইন-টিউনিং পদক্ষেপটি আরও উন্নয়নের জন্য একটি বা একাধিক বার পরিচালিত হয়। বাক্য

পিপিও সমস্ত অ্যালগরিদমের তুলনায় খরচহীন এবং দ্রুত কাজ করে তাদের এই প্রক্রিয়ার জন্য আদর্শ, যার ফলে পদক্ষেপটি সম্পাদনে সম্ভব হয়।

উদাহরণস্বরূপ, ChatGPT সহযোগিতায় যে ব্যবহারকারীরা সেখানে চলমান নির্দেশিকা দিয়ে, তাদের থেকে তথ্য সংগ্রহ করছে এবং এই তথ্যগুলি পরবর্তীতে মডেল উন্নয়ন এবং পরিষ্কারণের জন্য ব্যবহৃত হয়।

ব্যবহারকারীদের উত্তরগুলির উপর ভোট করে তারা পুনরাবৃত্তি পেতে পারেন অথবা প্রতিক্রিয়ার সাথে সংযোগ থাকার সুযোগ পেতে পারেন। এই তথ্যগুলি উন্নয়ন করার জন্য ব্যবহৃত হয় এবং এটি মডেলটি পেশাদার মানুষ এর মত পাঠকারী টেক্সট তৈরি করতে শ্রেষ্ঠ করে তোলার চেষ্টা করে।

মডেল প্রশিক্ষণে ব্যবহৃত ডেটা

চ্যাটজিপিটি-৩ একটি ভাষা মডেল যা জিপিটি-৩.৫ সিরিজ হতে ফাইন-টিউন করা হয়। এটি একটি আজুর এআই সুপারকম্পিউটিং অবকাঠামো ব্যবহার করে প্রশিক্ষিত হয়। এটি ইন্টারনেট থেকে বই, চ্যাট ফোরাম, নিবন্ধ, ওয়েবসাইট, একাডেমিক পেপার, কোড এবং অন্যান্য উৎস থেকে টেক্সট এর একটি বেশি পরিমাণে প্রশিক্ষিত হয়।

চ্যাটজি.পি.টি-৩ এর প্রশিক্ষণের জন্য ব্যবহৃত পাঠ্য ডেটা কর্পাস আকারে পাঁচ টেরা বেশি ছিল, যা অত্যন্ত বৃহৎ এবং মডেলের যে ধরণের লেখা তৈরি করতে সক্ষম করে তা একজন সাংবাদিক বা লেখক যেভাবে তৈরি করতে পারে তার মতন হতে দিতে সাহায্য করে।