নতুন গবেষণা অনুসারে, ChatGPT মাদকের ব্যবহার সম্পর্কিত ভুল তথ্য শেয়ার করেছে বলে পাওয়া গেছে।
নিউইয়র্কের ব্রুকলিনের লং আইল্যান্ড ইউনিভার্সিটির (LIU) নেতৃত্বে পরিচালিত একটি গবেষণায়, জেনারেটিভ এআই চ্যাটবট থেকে ওষুধ-সম্পর্কিত, ফার্মাসিস্ট-পর্যালোচিত প্রতিক্রিয়াগুলির প্রায় 75% অসম্পূর্ণ বা ভুল বলে পাওয়া গেছে।
কিছু ক্ষেত্রে, চ্যাটজিপিটি, যা সান ফ্রান্সিসকোতে ওপেনএআই দ্বারা তৈরি করা হয়েছিল এবং 2022 সালের শেষের দিকে প্রকাশিত হয়েছিল, “অশুদ্ধ প্রতিক্রিয়া প্রদান করে যা রোগীদের বিপদে ফেলতে পারে,” আমেরিকান সোসাইটি অফ হেলথ সিস্টেম ফার্মাসিস্ট (এএসএইচপি), মেরিল্যান্ডের বেথেসডায় সদর দফতর একটিতে বলেছে। প্রেস রিলিজ
আর্টিফিসিয়াল ইন্টেলিজেন্স কি?
কিছু প্রতিক্রিয়া সমর্থন করার জন্য রেফারেন্স উদ্ধৃত করতে বলা হলে ChatGPT “ভুয়া উদ্ধৃতি” তৈরি করেছে, একই গবেষণায়ও পাওয়া গেছে।
তার দলের সাথে, প্রধান অধ্যয়নের লেখক সারা গ্রসম্যান, ফার্মডি, LIU-এর ফার্মাসি অনুশীলনের সহযোগী অধ্যাপক, AI চ্যাটবটকে আসল প্রশ্নগুলি জিজ্ঞাসা করেছিলেন যেগুলি মূলত LIU এর কলেজ অফ ফার্মাসি ড্রাগ ইনফরমেশন সার্ভিসে 2022 এবং 2023 এর মধ্যে করা হয়েছিল৷
ChatGPT, OpenAI দ্বারা তৈরি AI চ্যাটবট, ওষুধ সম্পর্কে ভুল প্রতিক্রিয়া তৈরি করেছে, একটি নতুন গবেষণায় পাওয়া গেছে। কোম্পানি নিজেই আগে বলেছিল যে “ওপেনএআই-এর মডেলগুলি চিকিৎসা সংক্রান্ত তথ্য প্রদানের জন্য সূক্ষ্মভাবে তৈরি নয়। আপনি কখনই আমাদের মডেলগুলিকে গুরুতর চিকিৎসার জন্য ডায়াগনস্টিক বা চিকিত্সা পরিষেবা প্রদান করতে ব্যবহার করবেন না।” (গেটি ইমেজের মাধ্যমে লিওনেল বোনাভেঞ্চার/এএফপি)
ChatGPT-এর কাছে উত্থাপিত 39টি প্রশ্নের মধ্যে, গবেষণা দলের মানদণ্ড অনুসারে শুধুমাত্র 10টি উত্তর “সন্তোষজনক” বলে মনে করা হয়েছিল।
গবেষণার ফলাফলগুলি ক্যালিফোর্নিয়ার আনাহেইমে 3 ডিসেম্বর থেকে 7 ডিসেম্বর পর্যন্ত ASHP-এর মধ্যবর্তী ক্লিনিকাল সভায় উপস্থাপন করা হয়েছিল।
গ্রসম্যান, প্রধান লেখক, ফক্স নিউজ ডিজিটালের সাথে গবেষণার ফলাফল সম্পর্কে তার প্রাথমিক প্রতিক্রিয়া ভাগ করেছেন।
ব্রেস্ট ক্যান্সার ব্রেকথ্রু: এআই ম্যামোগ্রাফি স্টাডিতে রোগ নির্ণয়ের আগে এক তৃতীয়াংশ ক্ষেত্রে ভবিষ্যদ্বাণী করে
যেহেতু “আমরা আগে ChatGPT ব্যবহার করিনি, তাই কয়েক সেকেন্ডের মধ্যে প্রশ্নটির সাথে প্রাসঙ্গিক ওষুধ এবং/অথবা রোগের অবস্থা সম্পর্কে বেশ কিছুটা ব্যাকগ্রাউন্ড তথ্য প্রদান করার ChatGPT-এর ক্ষমতা দেখে আমরা অবাক হয়েছি,” তিনি ইমেলের মাধ্যমে বলেন।
“তা সত্ত্বেও, চ্যাটজিপিটি সঠিক এবং/অথবা সম্পূর্ণ প্রতিক্রিয়া তৈরি করেনি যা সরাসরি বেশিরভাগ প্রশ্নের সমাধান করে।”
গ্রসম্যান তার বিস্ময়ের কথাও উল্লেখ করেছেন যে ChatGPT “প্রদত্ত তথ্যকে সমর্থন করার জন্য বানোয়াট রেফারেন্স” তৈরি করতে সক্ষম হয়েছিল।
ChatGPT-এর কাছে উত্থাপিত 39টি প্রশ্নের মধ্যে, গবেষণা দলের মানদণ্ড অনুযায়ী শুধুমাত্র 10টি উত্তরকে “সন্তোষজনক” বলে গণ্য করা হয়েছে। (Getty Images এর মাধ্যমে ফ্র্যাঙ্ক রামপেনহর্স্ট/ছবি জোট; iStock)
একটি উদাহরণে তিনি গবেষণা থেকে উদ্ধৃত করেছেন, চ্যাটজিপিটি-কে জিজ্ঞাসা করা হয়েছিল যে “কোভিড-১৯-এর চিকিত্সা হিসাবে ব্যবহৃত অ্যান্টিভাইরাল ওষুধ প্যাক্সলোভিড এবং রক্তচাপ কমাতে ব্যবহৃত ওষুধ ভেরাপামিলের মধ্যে একটি ওষুধের মিথস্ক্রিয়া বিদ্যমান কিনা।”
GOOGLE BARD-এর প্রধান বিশ্বাস করেন যে AI যোগাযোগ এবং সহানুভূতি উন্নত করতে সাহায্য করতে পারে: ‘সত্যিই অসাধারণ’
এআই মডেল প্রতিক্রিয়া জানিয়েছে যে এই সংমিশ্রণের সাথে কোনও মিথস্ক্রিয়া রিপোর্ট করা হয়নি।
কিন্তু বাস্তবে, গ্রসম্যান বলেছেন, দুটি ওষুধ একত্রিত হলে “অত্যধিক রক্তচাপ কমানোর” সম্ভাব্য হুমকি সৃষ্টি করে।
“এই মিথস্ক্রিয়া সম্পর্কে জ্ঞান ছাড়াই, একজন রোগী একটি অবাঞ্ছিত এবং প্রতিরোধযোগ্য পার্শ্ব প্রতিক্রিয়ার শিকার হতে পারে,” তিনি সতর্ক করেছিলেন।
“কম্পিউটার দ্বারা উত্পন্ন তথ্য ব্যবহার করার আগে স্বাস্থ্যসেবা পেশাদারদের সাথে পরামর্শ করা সর্বদা গুরুত্বপূর্ণ।”
ChatGPT কে “ঔষধ-সম্পর্কিত তথ্যের প্রামাণিক উত্স হিসাবে বিবেচনা করা উচিত নয়,” গ্রসম্যান জোর দিয়েছিলেন।
“যে কেউ ChatGPT ব্যবহার করেন তাদের বিশ্বস্ত উত্স থেকে প্রাপ্ত তথ্য যাচাই করা নিশ্চিত করা উচিত – যেমন ফার্মাসিস্ট, চিকিত্সক বা অন্যান্য স্বাস্থ্যসেবা প্রদানকারী,” গ্রসম্যান যোগ করেছেন।
সামরিক মানসিক স্বাস্থ্য ফোকাসে কারণ এআই প্রশিক্ষণ বাস্তব কথোপকথনের অনুকরণ করে ভেটেরান আত্মহত্যা প্রতিরোধে সহায়তা করে
LIU অধ্যয়ন অন্যান্য জেনারেটিভ AI প্ল্যাটফর্মের প্রতিক্রিয়াগুলিকে মূল্যায়ন করেনি, গ্রসম্যান উল্লেখ করেছেন – তাই একই অবস্থার অধীনে অন্যান্য AI মডেলগুলি কীভাবে কাজ করবে সে সম্পর্কে কোনও ডেটা নেই।
“নির্বিশেষে, কম্পিউটার দ্বারা উত্পন্ন তথ্য ব্যবহার করার আগে স্বাস্থ্যসেবা পেশাদারদের সাথে পরামর্শ করা সবসময় গুরুত্বপূর্ণ, যা রোগীর নির্দিষ্ট চাহিদার সাথে পরিচিত নয়,” তিনি বলেছিলেন।
ChatGPT দ্বারা ব্যবহারের নীতি
নতুন গবেষণায় মন্তব্যের জন্য ফক্স নিউজ ডিজিটাল ChatGPT-এর বিকাশকারী OpenAI-এর সাথে যোগাযোগ করেছে।
ওপেনএআই-এর একটি ব্যবহার নীতি রয়েছে যা চিকিৎসা নির্দেশের জন্য ব্যবহার নিষিদ্ধ করে, একটি কোম্পানির মুখপাত্র পূর্বে একটি বিবৃতিতে ফক্স নিউজ ডিজিটালকে বলেছিলেন।
প্যাক্সলোভিড, কোভিড-১৯-এর চিকিৎসার জন্য ফাইজারের অ্যান্টিভাইরাল ওষুধ, 7 অক্টোবর, 2022-এ তোলা এই ছবির চিত্রে দেখানো হয়েছে। যখন চ্যাটজিপিটি-কে জিজ্ঞাসা করা হয়েছিল যে প্যাক্সলোভিড এবং ভেরাপামিলের মধ্যে কোনও ওষুধের মিথস্ক্রিয়া আছে কিনা, তখন চ্যাটবট ভুল উত্তর দিয়েছে, একটি নতুন গবেষণায় রিপোর্ট করা হয়েছে। (রয়টার্স/ওল্ফগ্যাং রাটে/ইলাস্ট্রেশন)
“ওপেনএআই-এর মডেলগুলি চিকিৎসা সংক্রান্ত তথ্য প্রদানের জন্য সূক্ষ্মভাবে তৈরি নয়। গুরুতর চিকিৎসার জন্য ডায়াগনস্টিক বা চিকিত্সা পরিষেবা প্রদানের জন্য আপনার কখনই আমাদের মডেলগুলি ব্যবহার করা উচিত নয়,” কোম্পানির মুখপাত্র এই বছরের শুরুতে বলেছিলেন।
“ওপেনএআই-এর প্ল্যাটফর্মগুলিকে অবিলম্বে মনোযোগ দেওয়া প্রয়োজন এমন জীবন-হুমকিমূলক সমস্যাগুলিকে ট্রাইজ বা পরিচালনা করতে ব্যবহার করা উচিত নয়।”
স্বাস্থ্যসেবা প্রদানকারীদের “ব্যবহারকারীদের অবশ্যই একটি দাবিত্যাগ প্রদান করতে হবে যাতে তাদের জানানো হয় যে AI ব্যবহার করা হচ্ছে এবং এর সম্ভাব্য সীমাবদ্ধতাগুলি।”
কোম্পানির আরও প্রয়োজন যে রোগীদের সাথে ইন্টারফেস করার জন্য ChatGPT ব্যবহার করার সময়, স্বাস্থ্যসেবা প্রদানকারীদের অবশ্যই “ব্যবহারকারীকে একটি দাবিত্যাগ প্রদান করতে হবে যাতে তারা জানায় যে AI ব্যবহার করা হচ্ছে এবং এর সম্ভাব্য সীমাবদ্ধতাগুলি।”
উপরন্তু, ফক্স নিউজ ডিজিটাল যেমন পূর্বে উল্লেখ করেছে, একটি বড় সতর্কতা হল ChatGPT-এর ডেটার উৎস হল ইন্টারনেট — এবং ওয়েবে প্রচুর ভুল তথ্য রয়েছে, কারণ বেশিরভাগ মানুষই সচেতন।
এই কারণেই চ্যাটবটের প্রতিক্রিয়া, তা যতই বিশ্বাসযোগ্য মনে হোক না কেন, সবসময় একজন ডাক্তারের দ্বারা পরীক্ষা করা উচিত।
নতুন গবেষণার লেখক চিকিৎসা সংক্রান্ত অনুসন্ধানের জন্য জেনারেটিভ এআই-এর উপর নির্ভর করার আগে একজন স্বাস্থ্যসেবা পেশাদারের সাথে পরামর্শ করার পরামর্শ দিয়েছেন। (আইস্টক)
উপরন্তু, একাধিক সূত্র অনুসারে, ChatGPT সেপ্টেম্বর 2021 পর্যন্ত ডেটার উপর শুধুমাত্র “প্রশিক্ষিত” ছিল। যদিও এটি সময়ের সাথে তার জ্ঞান বাড়াতে পারে, তবে সাম্প্রতিক তথ্য পরিবেশনের ক্ষেত্রে এর সীমাবদ্ধতা রয়েছে।
গত মাসে, সিইও স্যাম অল্টম্যান কথিতভাবে ঘোষণা করেছিলেন যে OpenAI-এর ChatGPT একটি আপগ্রেড পেয়েছে — এবং শীঘ্রই এপ্রিল 2023 পর্যন্ত ডেটা সম্পর্কে প্রশিক্ষণ দেওয়া হবে।
‘উদ্ভাবনী সম্ভাবনা’
ডাঃ হার্ভে কাস্ত্রো, একজন ডালাস, টেক্সাস-ভিত্তিক বোর্ড-প্রত্যয়িত জরুরী চিকিৎসা চিকিৎসক এবং স্বাস্থ্যসেবাতে AI-তে জাতীয় স্পিকার, ChatGPT চিকিৎসা ক্ষেত্রে যে “উদ্ভাবনী সম্ভাবনা” অফার করে তার উপর গুরুত্ব দেন।
“সাধারণ অনুসন্ধানের জন্য, চ্যাটজিপিটি দ্রুত, অ্যাক্সেসযোগ্য তথ্য সরবরাহ করতে পারে, সম্ভাব্যভাবে স্বাস্থ্যসেবা পেশাদারদের কাজের চাপ কমাতে পারে,” তিনি ফক্স নিউজ ডিজিটালকে বলেছেন।
কৃত্রিম বুদ্ধিমত্তা ডাক্তারদের রোগীদের মৃত্যুর ঝুঁকি ভবিষ্যদ্বাণী করতে সাহায্য করে, গবেষণায় দেখা যায়: ‘জরুরিতার অনুভূতি’
“ChatGPT-এর মেশিন লার্নিং অ্যালগরিদমগুলি সময়ের সাথে সাথে এটিকে উন্নত করার অনুমতি দেয়, বিশেষ করে সঠিক শক্তিবৃদ্ধি শেখার পদ্ধতির সাথে,” তিনি আরও বলেন।
ChatGPT-এর সম্প্রতি রিপোর্ট করা প্রতিক্রিয়ার ভুলতা, তবে, প্রোগ্রামটির সাথে একটি “গুরুত্বপূর্ণ সমস্যা” তৈরি করেছে, এআই বিশেষজ্ঞ উল্লেখ করেছেন।
“এটি বিশেষ করে ওষুধের মতো উচ্চ-স্টেকের ক্ষেত্রে সম্পর্কিত,” কাস্ত্রো বলেছিলেন।
একজন স্বাস্থ্য প্রযুক্তি বিশেষজ্ঞ উল্লেখ করেছেন যে চিকিত্সা পেশাদাররা কৃত্রিম বুদ্ধিমত্তার মডেলগুলির বিকাশের সাথে সাথে “পথনির্দেশক এবং সমালোচনা” করার জন্য দায়ী। (আইস্টক)
আরেকটি সম্ভাব্য ঝুঁকি হল যে চ্যাটজিপিটি তথ্যকে “হ্যালুসিনেট” করার জন্য দেখানো হয়েছে – যার অর্থ এটি প্রশংসনীয় কিন্তু মিথ্যা বা যাচাইকৃত বিষয়বস্তু তৈরি করতে পারে, কাস্ত্রো সতর্ক করেছেন।
আমাদের স্বাস্থ্য নিউজলেটারের জন্য সাইন আপ করতে এখানে ক্লিক করুন
“চিকিত্সা সেটিংগুলিতে এটি বিপজ্জনক যেখানে নির্ভুলতা সর্বাগ্রে,” বলেছেন কাস্ত্রো৷
“যদিও চ্যাটজিপিটি স্বাস্থ্য পরিচর্যায় প্রতিশ্রুতি দেখায়, তার বর্তমান সীমাবদ্ধতাগুলি … সতর্ক বাস্তবায়নের প্রয়োজনীয়তার উপর জোর দেয়।”
কাস্ত্রো যোগ করেছেন, এআই-এর “বর্তমানে চিকিৎসা প্রসঙ্গে গভীর, সূক্ষ্ম বোঝাপড়ার অভাব” রয়েছে যা মানব স্বাস্থ্যসেবা পেশাদারদের কাছে রয়েছে।
“যদিও চ্যাটজিপিটি স্বাস্থ্য পরিচর্যায় প্রতিশ্রুতি দেখায়, তার বর্তমান সীমাবদ্ধতাগুলি, বিশেষ করে ড্রাগ-সম্পর্কিত প্রশ্নগুলি পরিচালনা করার ক্ষেত্রে, সতর্ক বাস্তবায়নের প্রয়োজনীয়তার উপর জোর দেয়।”
ওপেনএআই, ChatGPT-এর বিকাশকারীর একটি ব্যবহার নীতি রয়েছে যা চিকিৎসা নির্দেশের জন্য ব্যবহার নিষিদ্ধ করে, কোম্পানির একজন মুখপাত্র এই বছরের শুরুতে ফক্স নিউজ ডিজিটালকে বলেছিলেন। (জেটি ইমেজের মাধ্যমে জাপ আরিয়েন্স/নুরফটো)
একজন ER চিকিত্সক এবং AI স্বাস্থ্যসেবা পরামর্শদাতা হিসাবে কথা বলতে গিয়ে, কাস্ত্রো “এই বিকাশমান প্রযুক্তির নির্দেশনা ও সমালোচনা” করার ক্ষেত্রে চিকিত্সা পেশাদারদের “অমূল্য” ভূমিকার উপর জোর দিয়েছিলেন।
ফক্স নিউজ অ্যাপ পেতে এখানে ক্লিক করুন
“মানুষের তত্ত্বাবধান অপরিহার্য রয়ে গেছে, নিশ্চিত করে যে ChatGPT-এর মতো AI সরঞ্জামগুলি পেশাদার চিকিৎসা বিচারের প্রতিস্থাপনের পরিবর্তে পরিপূরক হিসাবে ব্যবহার করা হয়,” কাস্ত্রো যোগ করেছেন।
ফক্স নিউজ ডিজিটালের মেলিসা রুডি প্রতিবেদনে অবদান রেখেছেন।
আরো স্বাস্থ্য নিবন্ধের জন্য, দেখুন www.foxnews.com/health.
অ্যাঞ্জেলিকা স্টেবিল ফক্স নিউজ ডিজিটালের জীবনধারা লেখক।
