अशा वेळी जेव्हा ते बनले आहे कृत्रिम बुद्धिमत्तेद्वारे तयार केलेल्या फोटोपासून खऱ्या फोटोमध्ये फरक करणे कठीण आहे.गुगलने आपल्या जेमिनी असिस्टंटला आणखी एक पाऊल पुढे टाकण्याचा निर्णय घेतला आहे. अॅपमध्ये आता एक वैशिष्ट्य समाविष्ट आहे जे तुम्हाला कंपनीच्या एआय मॉडेल्सद्वारे प्रतिमा प्रक्रिया केली गेली आहे की नाही हे तपासण्याची परवानगी देते, हे विशेषतः स्पेन आणि युरोपमधील वापरकर्त्यांसाठी उपयुक्त आहे ज्यांना सोशल मीडिया, मेसेजिंग अॅप्स किंवा ईमेलद्वारे प्राप्त होणाऱ्या प्रतिमांमागे काय आहे हे जाणून घ्यायचे आहे.
या नवीन वैशिष्ट्याचा अर्थ असा आहे की, सह जेमिनी अॅपवर एक प्रतिमा अपलोड करा आणि एक साधा प्रश्न विचारा. उदाहरणार्थ, जर तुम्ही "हे गुगल एआय वापरून तयार केले आहे का?" किंवा "हे एआय-जनरेटेड आहे का?" असे प्रश्न विचारले तर, असिस्टंट फोटोचे विश्लेषण करतो आणि तो गुगलच्या सिस्टम वापरून तयार केला आहे की संपादित केला आहे याची उत्तरे देतो. शिवाय, ते फक्त हो किंवा नाही असे उत्तर देत नाही: ते प्रतिसादासोबत कंटेंटबद्दल अतिरिक्त संदर्भ देते, ज्यामुळे त्याचे मूळ अधिक चांगल्या प्रकारे मूल्यांकन करण्यास मदत होते.
गुगलच्या एआय वापरून प्रतिमा तयार केली आहे की नाही हे जेमिनी कसे सत्यापित करते
या प्रणालीचा गाभा आहे सिंथआयडी, गुगलने दोन वर्षांपूर्वी सादर केलेली अदृश्य वॉटरमार्क तंत्रज्ञानहे टूल त्याच्या एआय मॉडेल्ससह जनरेट केलेल्या किंवा रिटच केलेल्या प्रतिमांच्या पिक्सेलमध्ये थेट डिजिटल सिग्नल घालते, कोणताही दृश्यमान बदल न करता. फोटो क्रॉप केलेला, कॉम्प्रेस केलेला किंवा फिल्टर लावलेला असतानाही वॉटरमार्क राहतो, जे मेसेजिंग अॅप्स किंवा सोशल मीडियाद्वारे शेअर करताना सामान्य आहे.
जेव्हा वापरकर्ता अॅपवर फोटो अपलोड करतो आणि प्रश्न विचारतो, जेमिनी त्या सिंथआयडी वॉटरमार्कचा शोध घेत असलेल्या प्रतिमेचे परीक्षण करतो.जर त्यांना प्रतिमा सापडली, तर ते सूचित करते की छायाचित्र "गुगलच्या एआय द्वारे तयार केले गेले आहे किंवा संपादित केले गेले आहे" आणि पूरक माहिती जोडते, जसे की सामग्रीच्या प्रकाराबद्दलचा संदर्भ आणि वेबवर असे काहीतरी कुठे पाहिले गेले आहे. जर त्यांना ब्रँड आढळला नाही, तर ते स्पष्ट करते की प्रतिमा गुगलच्या मॉडेल्स वापरून तयार केलेली दिसत नाही, जरी ती इतर एआय टूल्समधून आली असण्याची शक्यता उघड करते.
या प्रकारची पडताळणी विशेषतः उपयुक्त आहे दैनंदिन परिस्थिती ज्यामध्ये अतिशय वास्तववादी प्रतिमा प्राप्त होतातव्हॉट्सअॅप ग्रुप्समध्ये शेअर केलेल्या कथित वर्तमान फोटोंपासून ते सोशल मीडियावरील जाहिराती किंवा सर्जनशील सामग्रीपर्यंत, केवळ मानवी डोळ्यावर अवलंबून राहण्याऐवजी, वापरकर्ता प्रतिमेमध्येच एम्बेड केलेल्या तांत्रिक मार्करचा वापर करू शकतो.
गुगलचा दावा आहे की सिंथआयडी आधीच लागू केले गेले आहे त्यांच्या मॉडेल्सनी निर्माण केलेल्या अब्जावधी सामग्रीचे तुकडे, ज्यात अशा प्रणाली तयार करणाऱ्यांचा समावेश आहे जसे की नॅनो बनाना प्रो (जेमिनीशी संबंधित इमेज जनरेशन मॉडेल), जे कंपनीच्या इकोसिस्टममध्ये या पडताळणीच्या व्याप्तीची कल्पना देते.
अदृश्य वॉटरमार्क सोबत, Google देखील राखते अनेक जनरेट केलेल्या प्रतिमांमध्ये एक दृश्यमान ब्रँड मोफत योजना आणि गुगल एआय प्रो वापरणाऱ्यांसाठी, जेमिनीमध्ये एक प्रकारचा "चमक" आहे जो सरासरी वापरकर्त्यासाठी स्पष्ट इशारा म्हणून काम करतो. तथापि, व्यावसायिक वातावरणात, स्वच्छ कॅनव्हास प्रदान करण्यासाठी हे दृश्यमान चिन्ह निष्क्रिय केले जाऊ शकते, म्हणून पडताळणी सिंथआयडी आणि मेटाडेटावर अवलंबून असते.
स्टेप बाय स्टेप: जेमिनी अॅपमध्ये इमेज व्हेरिफिकेशन कसे वापरायचे
प्रक्रिया अशा प्रकारे डिझाइन केली आहे की अँड्रॉइड किंवा आयओएस मोबाईल फोन असलेले कोणीही तांत्रिक अडचणींशिवाय ते वापरू शकते.तुम्हाला एडिटिंग किंवा जनरेटिव्ह एआय मध्ये तज्ञ असण्याची गरज नाही; तुम्हाला फक्त हे माहित असणे आवश्यक आहे चांगले प्रॉम्प्ट लिहिण्यासाठी टिप्स हे मदत करू शकते आणि तुम्हाला फक्त जेमिनी अॅपमधूनच काही पायऱ्या फॉलो कराव्या लागतील.
प्रथम, अॅप उघडा आणि फाइल जोडा बटणावर टॅप करा, जे सहसा स्क्रीनच्या तळाशी "+" चिन्हासह दिसते. तिथून, तुम्ही वरून प्रतिमा निवडू शकता. मोबाइल गॅलरी, फाइल फोल्डर किंवा Google ड्राइव्ह सारख्या सेवाएकदा फोटो अपलोड झाल्यानंतर, "ही प्रतिमा एआयने तयार केली आहे की संपादित केली आहे?" किंवा "ही गुगलच्या एआयने तयार केली आहे का?" असा प्रश्न प्रविष्ट केला जातो आणि क्वेरी पाठवली जाते.
दुसरे म्हणजे, जेमिनी प्रतिमेचे विश्लेषण करते, सिंथआयडी सिग्नल शोधते आणि ते त्याच्या मूल्यांकनासह एक संदेश परत करते.जर ते ब्रँड शोधून काढते, तर ते स्पष्टपणे तसे सांगते; जर ते सापडले नाही, तर ते स्पष्ट करते की ते Google च्या AI वापरून तयार केलेले नाही किंवा ते ते पूर्ण खात्रीने ठरवू शकत नाही. काही प्रकरणांमध्ये, ते असेही सूचित करते की दुसरे बाह्य AI साधन वापरले गेले आहे की नाही हे जाणून घेणे शक्य नाही.
तिसरी पायरी म्हणजे काही निकषांनुसार उत्तराचा अर्थ लावणे. सिंथआयडी ब्रँडिंग नसल्यामुळे फोटो खरा आहेच असे नाही. क्लासिक अर्थाने (कोणत्याही हाताळणीशिवाय कॅमेऱ्याने घेतलेले), ते फक्त असे दर्शवते की गुगल सिग्नल सापडला नाही. ती खरी प्रतिमा असू शकते, जी दुसऱ्या एआयने तयार केलेली असू शकते, किंवा सामग्री इतकी मोठ्या प्रमाणात बदलली जाऊ शकते की ब्रँडचे लक्षणीय नुकसान झाले आहे.
गुगल कबूल करते की तेथे आहेत अत्यंत प्रकरणांमध्ये तांत्रिक मर्यादाअतिशय साध्या प्रतिमा, सलग कॉम्प्रेशनमुळे गंभीरपणे खराब झालेल्या फायली किंवा अतिशय आक्रमक संपादन यामुळे वॉटरमार्क वाचणे कठीण होऊ शकते. तरीही, ही प्रणाली सामान्य क्रॉपिंग, आकार बदलणे आणि ब्राइटनेस किंवा रंग समायोजनांना तोंड देण्यासाठी डिझाइन केली गेली आहे, ज्याचा उद्देश वास्तविक-जगातील नेटवर्किंग आणि मेसेजिंगमध्ये उपयुक्त बनवणे आहे.
सिंथआयडी, सी२पीए आणि डिजिटल सामग्रीचा चांगला मागोवा घेण्याचे ध्येय
सिंथआयडीचे जेमिनीमध्ये एकत्रीकरण एकट्याने होत नाही. गुगल देखील यात सहभागी आहे C2PA, सामग्रीच्या मूळ आणि सत्यतेसाठी एक आंतरराष्ट्रीय युती ज्यामध्ये Adobe, OpenAI, Meta आणि Microsoft सारख्या कंपन्या समाविष्ट आहेत. या गटाने एक मेटाडेटा मानक तयार केले आहे जे प्रतिमा, ऑडिओ किंवा व्हिडिओच्या उत्पत्ती आणि संपादन इतिहासाबद्दल विश्वसनीय माहिती समाविष्ट करण्यास अनुमती देते.
प्रत्यक्षात, हे C2PA मेटाडेटा फाइलमध्ये एम्बेड केलेल्या तांत्रिक डेटा शीटच्या रूपात काम करतो.यावरून कंटेंट तयार करण्यासाठी कोणते टूल वापरले गेले, कोणते बदल केले गेले आणि केव्हा केले गेले हे कळते. गुगल जेमिनी अॅपमधील नॅनो बनाना प्रो सारख्या मॉडेल्सद्वारे तयार केलेल्या प्रतिमांमध्ये तसेच व्हर्टेक्स एआय आणि गुगल जाहिरातींद्वारे बनवलेल्या निर्मितींमध्ये या प्रकारचे क्रेडेन्शियल समाविष्ट करण्यास सुरुवात करत आहे.
सिंथआयडी आणि सी२पीएचे संयोजन एकीकडे, गुगलच्या एआयने तयार केलेल्या प्रतिमा चिन्हांकित करा. आणि, दुसरीकडे, मानक स्वीकारणाऱ्या तृतीय-पक्ष साधनांमधून येणाऱ्या फायलींची पडताळणी करण्यासाठी एक चॅनेल ऑफर करणे. कंपनीचा हेतू हा मेटाडेटा हळूहळू अधिक उत्पादनांमध्ये विस्तारित करण्याचा आहे, ज्यामध्ये युरोपमध्ये मोठ्या प्रमाणावर वापरल्या जाणाऱ्या सेवा जसे की YouTube, Google Photos आणि Search यांचा समावेश आहे.
स्पेन आणि इतर युरोपीय देशांमधील पत्रकार, तथ्य-तपासणी करणारे आणि डिजिटल मीडियासाठी, प्रवेशासह एक मानक सामग्री मूळ यंत्रणा महत्त्वाची असू शकते. निवडणूक मोहिमांपासून ते आंतरराष्ट्रीय संघर्षांपर्यंत संवेदनशील कव्हरेजमध्ये. सध्या, C2PA चा वापर वाढत आहे, परंतु त्याचा अवलंब अद्याप सार्वत्रिक नाही, त्यामुळे पूर्ण ट्रेसेबिलिटी हे मध्यम-मुदतीचे ध्येय राहिले आहे.
अॅपमध्ये थेट एकत्रीकरणाव्यतिरिक्त, गुगल एका विशिष्ट पडताळणी पोर्टलवर या तंत्रज्ञानाची चाचणी करत आहे, सिंथआयडी डिटेक्टरसुरुवातीला पत्रकार, संशोधक आणि मीडिया व्यावसायिकांसाठी डिझाइन केलेले, हे साधन प्रतिमेचे कोणते भाग ध्वजांकित केले जाऊ शकतात ते हायलाइट करते आणि आता जेमिनी द्वारे ऑफर केलेल्या अधिक सामान्य वापराला पूरक आहे.
भविष्यातील योजना: प्रतिमांपासून व्हिडिओ, ऑडिओ आणि शोध पर्यंत
गुगलने स्पष्ट केले आहे की ते सत्यापन केवळ स्थिर फोटोंपुरते मर्यादित ठेवू इच्छित नाही. त्यांच्या योजनांमध्ये व्हिडिओ आणि ऑडिओ सारख्या फॉरमॅटमध्ये सिंथआयडीचा विस्तार करणे समाविष्ट आहे.यामुळे या प्लॅटफॉर्मवरील एआय-व्युत्पन्न सामग्री अधिक विश्वासार्हपणे ओळखता येईल. व्हॉइस आणि व्हिडिओ डीपफेकच्या प्रसारामुळे अनेक युरोपीय देशांमध्ये आधीच चुकीच्या माहितीच्या घटना घडल्या आहेत, हे लक्षात घेता हे विशेषतः संबंधित आहे.
आणखी एक उद्देश म्हणजे या क्षमता दूरगामी सेवांमध्ये आणणे जसे की गुगल सर्च, सर्च इंजिनयामागील कल्पना अशी आहे की जेव्हा वापरकर्त्याला वेबवर एखादी प्रतिमा सापडते तेव्हा ते सहजपणे तपासू शकतात की ती एआय-व्युत्पन्न सामग्री आहे का आणि असल्यास, ती कोणत्या मॉडेलचा वापर करते. या प्रकारची संदर्भात्मक माहिती आधीच काही शोध निकालांमध्ये हळूहळू समाविष्ट केली जात आहे, परंतु सिंथआयडी आणि सी2पीएचे विशिष्ट एकत्रीकरण अजूनही सुरू केले जात आहे.
दरम्यान, गुगल पुढे चालू ठेवते सिंथआयडीला त्याच्या इकोसिस्टममधील इतर साधनांमध्ये एकत्रित करणे, जसे की पिक्सेल फोनवरील मॅजिक एडिटर आणि रीइमॅजिन वैशिष्ट्य, जे एआय-संचालित फोटो संपादनास अनुमती देतात. अशाप्रकारे, या प्रणालींद्वारे केलेले कोणतेही महत्त्वपूर्ण बदल नंतर शोधण्यासाठी चिन्हांकित केले जातात, ज्यामुळे अशा फंक्शन्समध्ये पारदर्शकतेचा एक थर जोडला जातो जो अन्यथा पारंपारिक छायाचित्रापासून वेगळे करणे कठीण प्रतिमा निर्माण करू शकतात.
कंपनी मान्य करते की, जोपर्यंत सर्व प्रतिमा निर्मिती प्लॅटफॉर्मवर सार्वत्रिकरित्या स्वीकारलेली ब्रँडिंग प्रणाली अस्तित्वात येत नाही तोपर्यंत पडताळणी अनिवार्यपणे आंशिक असेल. तथापि, ती आग्रह धरते की त्यांच्या स्वतःच्या परिसंस्थेत हे पाऊल उचला हे मानकांचा अवलंब करण्यास प्रोत्साहन देण्याचा आणि वापरकर्त्यांना वाढत्या गुंतागुंतीच्या डिजिटल वातावरणात नेव्हिगेट करण्यासाठी ठोस साधने प्रदान करण्याचा एक मार्ग आहे.
युरोपच्या बाबतीत, जिथे EU संस्था कृत्रिम बुद्धिमत्ता आणि चुकीच्या माहितीसाठी नियामक चौकटींवर काम करत आहेत, अशा प्रकारच्या तांत्रिक उपक्रमाला योग्य ठरू शकते कायदेशीर आवश्यकतांना व्यावहारिक पूरक, नागरिकांना, माध्यमांना आणि प्रशासनाला मोबाईल फोनवरून प्रवेशयोग्य पडताळणी प्रणाली उपलब्ध करून देणे.
मिथुन पडताळणी आज काय करू शकते आणि काय करू शकत नाही
जरी या वैशिष्ट्याचे लाँचिंग हे एक महत्त्वाचे पाऊल आहे, मिथुन हे जादूचे साधन नाही जे सर्व प्रामाणिकपणाच्या समस्या सोडवते.सध्या तरी, त्याची ताकद ही आहे की सिंथआयडीच्या मदतीने गुगलच्या एआयने प्रतिमा तयार केली आहे किंवा संपादित केली आहे हे दर्शवणे; त्यापलीकडे, सहाय्यक केवळ दृश्य विश्लेषणाच्या आधारे अंदाज लावू शकतो.
सिंथआयडी वापरत नसलेल्या बाह्य मॉडेल्ससारख्या इतर साधनांद्वारे तयार केलेल्या प्रतिमांच्या चाचण्यांमध्ये, जेमिनी कधीकधी ते कृत्रिम सामग्री आहे असे समजण्यासाठीतथापि, अदृश्य वॉटरमार्क शोधताना ते जेवढी खात्री देते तेवढी त्यात नाही. अशा परिस्थिती देखील आढळून आल्या आहेत जिथे सिस्टम एखाद्या छायाचित्राचा अर्थ दुसऱ्या एआय कडून आल्यावर स्टॉक म्हणून करते, हे दाखवून देते की पूर्णपणे दृश्य विश्लेषणात अजूनही त्रुटी आहे.
मिथुन कधीकधी असे संदेश दर्शवू शकतात जसे की: "ही प्रतिमा गुगल एआय वापरून तयार केलेली नाही, परंतु ती इतर एआय टूल्स वापरून तयार केली गेली आहे की नाही हे निश्चित करणे शक्य नाही."दुसऱ्या शब्दांत सांगायचे तर, जेव्हा सहाय्यकाकडे प्रतिमेच्या उत्पत्तीची पुष्टी करण्यासाठी तांत्रिक सिग्नल नसतात तेव्हा तो त्याच्या मर्यादा ओळखण्यात पारदर्शक असतो.
सरासरी वापरकर्त्यासाठी, याचा अर्थ असा की पडताळणी कार्य असे समजले पाहिजे साधनांच्या संचातील आणखी एक साधनआणि फोटोवर विश्वास ठेवावा की नाही हे ठरवण्यासाठी हा एकमेव निकष नाही. संदर्भ, तो शेअर करणारा स्रोत आणि प्रतिमेचा वापर यावर टीका करणे अजूनही मूलभूत आहे, विशेषतः राजकारण, आरोग्य किंवा सुरक्षितता यासारख्या संवेदनशील बाबींमध्ये.
तथापि, जेमिनी अॅपवर फोटो त्वरित अपलोड करण्याची आणि काही सेकंदात संदर्भित प्रतिसाद मिळण्याची क्षमता ही एक चांगली गोष्ट आहे. हे एक व्यावहारिक संसाधन दर्शवते कमीत कमी गुगल इकोसिस्टमशी जोडलेल्या प्रतिमा शोधण्यासाठी, विशेषतः डिजिटल जाहिरात मोहिमा, प्रायोजित सामग्री, व्हायरल बातम्या किंवा स्पेन आणि उर्वरित युरोपमधील नेटवर्कवर फिरणाऱ्या ग्राफिक संसाधनांमध्ये उपयुक्त असे काहीतरी.
जेमिनी अॅपमध्ये या वैशिष्ट्याचे आगमन तंत्रज्ञान क्षेत्रातील स्पष्ट ट्रेंडमध्ये बसते: मोठ्या कंपन्या समाविष्ट करत आहेत तुमच्या उत्पादनांमध्ये थेट प्रमाणीकरण आणि मूळ प्रणाली चुकीची माहिती आणि हाताळलेल्या सामग्रीचा प्रभाव रोखण्याचा प्रयत्न करणे. या संदर्भात, अदृश्य वॉटरमार्क, प्रमाणित मेटाडेटा आणि असिस्टंटकडून नैसर्गिक भाषेतील स्पष्टीकरणांचे संयोजन वापरकर्त्यांना त्यांच्या स्क्रीनवर दिसणाऱ्या प्रत्येक प्रतिमेमागे काय आहे हे समजून घेण्यासाठी चांगल्या स्थितीत ठेवते.
