ओपनएआई का ट्रांसक्रिप्शन टूल कथित तौर पर मेडिकल परामर्श रिकॉर्ड में मतिभ्रम सामग्री जोड़ रहा है

ओपनएआई ने 2022 में व्हिस्पर नामक एक कृत्रिम बुद्धिमत्ता (एआई) टूल जारी किया, जो भाषण को पाठ में स्थानांतरित कर सकता है। हालाँकि, एक रिपोर्ट में दावा किया गया है कि एआई टूल मतिभ्रम से ग्रस्त है और ट्रांसक्रिप्शन में काल्पनिक पाठ जोड़ रहा है। यह चिंताजनक है क्योंकि कहा जाता है कि इस उपकरण का उपयोग चिकित्सा और पहुंच जैसे कई उच्च जोखिम वाले उद्योगों में किया जाता है। कथित तौर पर एक विशेष चिंता डॉक्टर-रोगी परामर्श में उपकरण के उपयोग से आती है, जहां मतिभ्रम संभावित रूप से हानिकारक जानकारी जोड़ सकता है और रोगी के जीवन को खतरे में डाल सकता है।

ओपनएआई व्हिस्पर कथित तौर पर मतिभ्रम से ग्रस्त है

एसोसिएटेड प्रेस सूचना दी ओपनएआई की स्वचालित वाक् पहचान (एएसआर) प्रणाली व्हिस्पर में मतिभ्रम वाले पाठ उत्पन्न करने की उच्च क्षमता है। कई सॉफ्टवेयर इंजीनियरों, डेवलपर्स और अकादमिक शोधकर्ताओं के साक्षात्कार का हवाला देते हुए, प्रकाशन ने दावा किया कि काल्पनिक पाठ में नस्लीय विवरण, हिंसा और चिकित्सा उपचार और दवाएं शामिल हैं।

एआई की भाषा में मतिभ्रम, एक प्रमुख मुद्दा है जिसके कारण एआई सिस्टम ऐसी प्रतिक्रियाएं उत्पन्न करता है जो गलत या भ्रामक होती हैं। व्हिस्पर के मामले में, कहा जाता है कि एआई ऐसे पाठ का आविष्कार कर रहा है जो कभी किसी के द्वारा नहीं बोला गया था।

प्रकाशन द्वारा सत्यापित एक उदाहरण में, वक्ता का वाक्य, “वह, वह लड़का, छाता लेने जा रहा था, मुझे ठीक-ठीक पता नहीं है।” इसे बदलकर “उसने क्रॉस का एक बड़ा टुकड़ा, एक छोटा, छोटा टुकड़ा लिया… मुझे यकीन है कि उसके पास आतंकवादी चाकू नहीं था इसलिए उसने कई लोगों को मार डाला।” एक अन्य उदाहरण में, व्हिस्पर ने कथित तौर पर बिना किसी उल्लेख के नस्लीय जानकारी जोड़ दी।

जबकि एआई क्षेत्र में मतिभ्रम कोई नई समस्या नहीं है, इस विशेष उपकरण का मुद्दा अधिक प्रभावशाली है क्योंकि ओपन-सोर्स तकनीक का उपयोग कई उपकरणों द्वारा किया जा रहा है जो उच्च जोखिम वाले उद्योगों में उपयोग किए जा रहे हैं। उदाहरण के लिए, पेरिस स्थित नाबला ने एक व्हिस्पर-आधारित उपकरण बनाया है जिसका उपयोग कथित तौर पर 30,000 से अधिक चिकित्सकों और 40 स्वास्थ्य प्रणालियों द्वारा किया जा रहा है।

नाबला के उपकरण का उपयोग सात मिलियन से अधिक चिकित्सा यात्राओं को लिखने के लिए किया गया है। डेटा सुरक्षा बनाए रखने के लिए कंपनी अपने सर्वर से मूल रिकॉर्डिंग भी हटा देती है। इसका मतलब यह है कि यदि इन सात मिलियन प्रतिलेखन में कोई मतिभ्रम पाठ उत्पन्न हुआ था, तो उन्हें सत्यापित करना और सही करना असंभव है।

एक अन्य क्षेत्र जहां प्रौद्योगिकी का उपयोग किया जा रहा है वह बधिर और कम सुनने वाले समुदाय के लिए पहुंच उपकरण बनाने में है, जहां फिर से, उपकरण की सटीकता को सत्यापित करना काफी कठिन है। ऐसा कहा जाता है कि अधिकांश मतिभ्रम पृष्ठभूमि शोर, अचानक रुकने और अन्य पर्यावरणीय ध्वनियों से उत्पन्न होता है।

मुद्दे की व्यापकता भी चिंताजनक है. एक शोधकर्ता का हवाला देते हुए, प्रकाशन ने दावा किया कि प्रत्येक 10 ऑडियो ट्रांसक्रिप्शन में से आठ में मतिभ्रम वाला पाठ पाया गया। एक डेवलपर ने प्रकाशन को बताया कि मतिभ्रम “व्हिस्पर के साथ बनाए गए 26,000 प्रतिलेखों में से प्रत्येक में हुआ।”

उल्लेखनीय रूप से, पर शुरू करना व्हिस्पर के ओपनएआई ने कहा कि व्हिस्पर उच्चारण, पृष्ठभूमि शोर और तकनीकी भाषा को मानव-स्तरीय मजबूती प्रदान करता है। कंपनी के एक प्रवक्ता ने प्रकाशन को बताया कि एआई फर्म लगातार मतिभ्रम को कम करने के तरीकों का अध्ययन करती है और भविष्य के मॉडल अपडेट में फीडबैक को शामिल करने का वादा किया है।

Source link

Related Posts

भारत का गगनयान मिशन 2026 तक के लिए स्थगित कर दिया गया क्योंकि इसरो का ध्यान सुरक्षा, परीक्षण और अंतरिक्ष यात्री प्रशिक्षण पर है

भारत ने गगनयान कार्यक्रम के तहत अपने उद्घाटन अंतरिक्ष यात्री मिशन को 2026 तक विलंबित कर दिया है, जिससे समयरेखा मूल कार्यक्रम से एक वर्ष आगे बढ़ गई है। भारतीय अंतरिक्ष अनुसंधान संगठन (इसरो) के अध्यक्ष एस. सोमनाथ द्वारा घोषित निर्णय, एयरोस्पेस उद्योग की हालिया असफलताओं के आलोक में सुरक्षा के प्रति प्रतिबद्धता को दर्शाता है। सोमनाथ के अनुसार, भारत का पहला मानवयुक्त मिशन कई मानव रहित परीक्षण उड़ानों से पहले होगा, जिसका पहला परीक्षण दिसंबर 2023 में लॉन्च होने वाला है। परीक्षणों की श्रृंखला एक सफल मानवयुक्त मिशन के लिए आवश्यक महत्वपूर्ण प्रणालियों को मान्य करेगी, जिससे भारत के लिए इसमें शामिल होने का मार्ग प्रशस्त होगा। स्वतंत्र रूप से अंतरिक्ष यात्रियों को अंतरिक्ष में भेजने में संयुक्त राज्य अमेरिका, रूस और चीन का स्थान है। सुरक्षा प्रथम: इसरो का सतर्क दृष्टिकोण इसरो का व्यापक हाल ही में नई दिल्ली में एक बातचीत के दौरान सोमनाथ द्वारा परीक्षण प्रक्रियाओं और चौथी मानव रहित परीक्षण उड़ान को शामिल करने की रूपरेखा प्रस्तुत की गई थी। उन्होंने कठोर सुरक्षा जांच के महत्व की याद दिलाते हुए बोइंग स्टारलाइनर की तकनीकी कठिनाइयों का हवाला दिया। इसरो के गगनयान मिशन, जिसे एच1 के नाम से भी जाना जाता है, का लक्ष्य एक या दो अंतरिक्ष यात्रियों को ग्रह से लगभग 400 किलोमीटर ऊपर, निचली पृथ्वी की कक्षा में ले जाना है। सोमनाथ ने साझा किया कि इसी तरह की किसी भी दुर्घटना से बचने के लिए, इसरो ने एक व्यवस्थित दृष्टिकोण अपनाया है, जिसमें पूरी तरह से घरेलू रूप से विकसित जटिल प्रौद्योगिकियों का परीक्षण किया गया है। अंतिम क्रू लॉन्च की तैयारी मिशन का समर्थन करने के लिए, इसरो ने कई प्रारंभिक परीक्षण किए हैं, जिनमें आपातकालीन बचाव तंत्र और आर का मूल्यांकन शामिल हैइकोव्री सिस्टम. इस वर्ष के अंत में अपेक्षित G1 उड़ान में व्योमित्र नाम का एक ह्यूमनॉइड रोबोट शामिल होगा जो पुन: प्रवेश, पैराशूट परिनियोजन और बंगाल की खाड़ी में नियंत्रित स्पलैशडाउन का परीक्षण करेगा। G1 के बाद, तीन…

Read more

गुमस्थान ओटीटी रिलीज: जैसे जोस, बिबिन जॉर्ज, स्टारर मूवी स्ट्रीमिंग विस्तृत ऑनलाइन लीक

27 सितंबर, 2024 को अपनी नाटकीय शुरुआत के बाद, गुमस्थान कथित तौर पर अपनी ओटीटी रिलीज के लिए तैयार है, जो दर्शकों को अपने घरों में आराम से क्राइम थ्रिलर देखने का मौका प्रदान करेगा। कई रिपोर्ट्स के मुताबिक, फिल्म जल्द ही लोकप्रिय ओटीटी प्लेटफॉर्म प्राइम वीडियो पर उपलब्ध हो सकती है। हालाँकि, इसके बारे में कोई आधिकारिक पुष्टि नहीं हुई है, लेकिन उम्मीद की जा सकती है कि आने वाले हफ्तों में यह जल्द ही ओटीटी पर उपलब्ध होगा। गुमस्थान का आधिकारिक ट्रेलर और प्लॉट गुमस्थान के ट्रेलर में ग्रामीण परिवेश पर आधारित एक गंभीर अपराध ड्रामा दिखाया गया है। फिल्म का निर्देशन अमल के. जॉबी ने किया है। फिल्म एंड्रयूज पल्लिकादान पर आधारित है, जिसका किरदार जैस जोस ने निभाया है। हम उसकी यात्रा देखते हैं जहां वह एक घनिष्ठ समुदाय के भीतर आपराधिक तत्वों के माध्यम से नेविगेट करता है। कहानी जटिल रूप से रहस्य और नैतिक संघर्ष को बुनती है, ग्रामीण अपराध की एक ज्वलंत तस्वीर पेश करती है। नीमा मैथ्यू इस फिल्म में अपनी शुरुआत कर रही हैं, जिससे कलाकारों में गहराई आ गई है और स्टीफन डेवेसी और बिनॉय एस प्रसाद दोनों ने संगीत परिदृश्य में योगदान दिया है, जिसमें डेवेसी ने गीतों की रचना की है और प्रसाद ने पृष्ठभूमि स्कोर तैयार किया है। गुमाश्तान के कलाकार और कर्मी दल गुमास्थान में प्रभावशाली कलाकारों की टोली है, जिसमें जैसे जोस, बिबिन जॉर्ज और दिलेश पोथन प्रमुख भूमिकाओं में हैं। स्मिनु सिजो, शाजू श्रीधर और आईएम विजयन कहानी में अतिरिक्त गहराई लाते हैं। अमल के. जॉबी निर्देशन करते हैं, मुज़ाफिर अब्दुल्ला मुज़ाफिर फिल्म कंपनी के बैनर तले निर्माण कर रहे हैं। रियाज़ इस्मथ ने पटकथा तैयार की, जबकि फिल्म के दृश्य स्वर को छायाकार कुंजुन्नी एस. कुमार ने कैद किया। अयूब खान द्वारा संपादित, तकनीकी टीम में मेकअप आर्टिस्ट रहीम कोडुंगल्लूर, कॉस्ट्यूम डिजाइनर शिबू परमेश्वरन और कला निर्देशक राजेश के सूर्या भी शामिल हैं। गुमाश्तान का स्वागत नाटकीय रूप से रिलीज़ होने के बाद…

Read more

Leave a Reply

Your email address will not be published. Required fields are marked *

You Missed

उद्धव ठाकरे ने भोजन की कीमतों पर नियंत्रण, लड़कों के लिए मुफ्त शिक्षा और मुंबई में मराठियों के लिए घर का वादा किया कोल्हापुर समाचार

उद्धव ठाकरे ने भोजन की कीमतों पर नियंत्रण, लड़कों के लिए मुफ्त शिक्षा और मुंबई में मराठियों के लिए घर का वादा किया कोल्हापुर समाचार

स्लाइड और खच्चरों में क्या अंतर है?

स्लाइड और खच्चरों में क्या अंतर है?

आईपीएल नीलामी खिलाड़ी सूची: कोई बेन स्टोक्स, जेम्स एंडरसन रजिस्टर नहीं, सरफराज खान की बेस प्राइस बस…

आईपीएल नीलामी खिलाड़ी सूची: कोई बेन स्टोक्स, जेम्स एंडरसन रजिस्टर नहीं, सरफराज खान की बेस प्राइस बस…

तमिलनाडु का आदमी, बेटी सूटकेस में पड़ोसी के शव के साथ रेलवे स्टेशन पर पकड़े गए | चेन्नई समाचार

तमिलनाडु का आदमी, बेटी सूटकेस में पड़ोसी के शव के साथ रेलवे स्टेशन पर पकड़े गए | चेन्नई समाचार

दुनिया की सबसे घातक छिपकली के बारे में 9 रोचक तथ्य

दुनिया की सबसे घातक छिपकली के बारे में 9 रोचक तथ्य

“उनसे कुछ नहीं सुना”: केकेआर द्वारा रिलीज किए जाने पर मिशेल स्टार्क ने चुप्पी तोड़ी

“उनसे कुछ नहीं सुना”: केकेआर द्वारा रिलीज किए जाने पर मिशेल स्टार्क ने चुप्पी तोड़ी