हालांकि विशेषज्ञों का कहना है कि दुनिया की कुछ सबसे प्रभावशाली तकनीकी कंपनियों ने एआई सुरक्षा पर एक गठबंधन बनाने के लिए एक साथ मिलकर काम किया है आईटीप्रो कुछ चिंताओं को दूर करने की जरूरत है।
गठबंधन फॉर सिक्योर एआई (सीओएसएआई) नामक इस समझौते में अमेज़ॅन, माइक्रोसॉफ्ट, एंथ्रोपिक, ओपनएआई और अन्य कंपनियां इस उभरती हुई तकनीक के लिए सहयोगात्मक प्रयासों पर ध्यान केंद्रित करेंगी। CoSAI लगभग एक साल से काम कर रहा है। गूगल के अनुसारटेक दिग्गज की शुरूआत के बाद सुरक्षित एआई फ्रेमवर्क (एसएआईएफ) 2023 में.
समान लक्ष्यों की दिशा में काम करते हुए, यह गठबंधन तीन क्षेत्रों – या “वर्कस्ट्रीम” पर ध्यान केंद्रित करेगा, जैसा कि Google ने उन्हें कहा है – “एआई सुरक्षा में सामूहिक निवेश” का समर्थन करने में मदद करने के लिए।
ऐसा ही एक क्षेत्र एआई सॉफ्टवेयर आपूर्ति श्रृंखला में सुरक्षा है। Google ने आपूर्ति श्रृंखला में इसे कैसे बनाया और संसाधित किया गया, इसकी समझ प्रदान करके “एआई सॉफ्टवेयर कब सुरक्षित है इसकी पहचान करने में मदद करने के लिए” एआई मॉडल में एसएलएसए उद्गम को बढ़ाया।
इस परियोजना के हिस्से के रूप में, CoSAI तीसरे पक्ष के मॉडल से जुड़े जोखिमों के प्रबंधन में योगदान देने और आपूर्ति श्रृंखला अधिकारियों के “मौजूदा प्रयासों” को विकसित करने का प्रयास करेगा।
CoSAI “सुरक्षा पर AI के उपयोग के प्रभाव को संबोधित करने के लिए निवेश और शमन तकनीकों की पहचान करने” के लिए स्पष्ट रास्ते बनाकर सुरक्षा पेशेवरों को AI शासन की दिन-प्रतिदिन की चुनौतियों का समाधान करने में मदद करने की भी कोशिश करेगा।
अंत में, गठबंधन एआई जोखिमों और नियंत्रणों की एक वर्गीकरण विकसित करने के साथ-साथ तैयारी, प्रबंधन और निगरानी में चिकित्सकों का मार्गदर्शन करने के लिए एक चेकलिस्ट और डैशबोर्ड विकसित करने के लिए काम करेगा।
हालाँकि, जैसा कि स्पेक्ट्रम सर्च के सीटीओ पीटर वुड ने बताया, संगठन की स्व-नियामक प्रकृति के बारे में चिंताएँ हैं, यह देखते हुए कि बड़ी तकनीक का अपने स्वयं के सुरक्षा उपायों पर कुछ नियंत्रण होता है।
“मुख्य चिंताओं में से एक यह है कि जवाबदेह कौन है। जब ये तकनीकी दिग्गज एआई सुरक्षा कानून स्थापित करने के लिए एकजुट होते हैं, तो चिंता होती है कि ये दिशानिर्देश सार्वजनिक हित के बजाय उनके लाभ के लिए तैयार किए जाएंगे, ”वुड ने कहा। आईटीप्रो.
“यह संभावित रूप से उन छोटी कंपनियों और स्टार्टअप्स के नवाचार को रोक सकता है जिनके पास समान संसाधन नहीं हैं।” ऐसी आशंका है कि स्व-नियमन इन दिग्गजों के लिए अपनी प्रमुख स्थिति बनाए रखने का एक उपकरण बन जाएगा, जिससे एआई के क्षेत्र में नए प्रतिस्पर्धियों के खिलाफ एक दीवार बन जाएगी, ”श्री वुड ने कहा।
अगर सही ढंग से किया जाए तो CoSAI एक सकारात्मक पहल है
वुड के अनुसार, “गठबंधन के कामकाज में पारदर्शिता आवश्यक है,” क्योंकि इसके बिना, यह आशंका बढ़ सकती है कि CoSAI अपने उद्देश्यों के लिए मानक निर्धारित करेगा।
उन्होंने कहा, “स्पष्ट पारदर्शिता के बिना, यह जोखिम है कि ये स्व-लगाए गए नियम सुरक्षा के बारे में कम और एआई के आसपास की कहानी को प्रबंधित करने के बारे में अधिक होंगे।”
सिद्धांत रूप में, यह कदम फिर भी सकारात्मक है और “एआई सुरक्षा के महत्व की उद्योग-व्यापी मान्यता को रेखांकित करता है”, मानकों के विकास की दिशा में एक प्रवृत्ति का सुझाव देता है जिसे स्थापित करने में अधिक समय लग सकता है कि क्या जिम्मेदारी पूरी तरह से सरकार की है।
“इस मुद्दे को सावधानीपूर्वक प्रबंधित किया जाना चाहिए ताकि यह सुनिश्चित किया जा सके कि यह केवल गठबंधन सदस्यों के ही नहीं, बल्कि समग्र समाज के हितों की पूर्ति करता है। नवप्रवर्तन, विनियमन और सार्वजनिक हित के बीच सही संतुलन ढूंढना इसकी सफलता की कुंजी होगी, ”श्री वुड ने कहा।
