फेसबुक एआई - टेकक्रंच के साथ आक्रामक तस्वीरों से लड़कर इंसानों को बचाता है - सामाजिक मीडिया - 2019

Anonim

फेसबुक की कृत्रिम बुद्धि प्रणाली अब मनुष्यों की तुलना में अधिक आक्रामक तस्वीरों की रिपोर्ट करती है, जो दुर्व्यवहार के खिलाफ सोशल नेटवर्क की लड़ाई में एक प्रमुख मील का पत्थर चिह्नित करती है, कंपनी मुझे बताती है। वास्तविक लोगों के मनोविज्ञान को कभी भी दर्द से पहले एआई अश्लील सामग्री को संगठित कर सकता है।

विज्ञापनों में फेसबुक की सफलता ने एआई और मशीन दृष्टि के विज्ञान में निवेश को बढ़ावा दिया है जो आक्रामक सामग्री को रोकने में इसका लाभ उठा सकता है। बदमाशी के डर के बिना साझा करने के लिए एक नागरिक स्थान बनाना उपयोगकर्ताओं को उनके व्यक्तिगत सामग्री को पोस्ट करने के लिए महत्वपूर्ण है जो मित्रों के ध्यान में आकर्षित होता है।

अपने मंच पर उत्पीड़न के दावों को पर्याप्त रूप से रोकने या जवाब देने में विफल होने के कारण ट्विटर की व्यापक आलोचना की गई है, और पिछले साल पूर्व सीईओ डिक कॉस्टोलो ने स्वीकार किया कि "हम दुर्व्यवहार से निपटने में चूसते हैं।" ट्विटर ने अभी तक लाभ नहीं कमाया है, और एआई में फेसबुक के निवेश से मेल खाने के लिए संसाधन नहीं हैं, लेकिन अभी भी एक बहादुर प्रयास कर रहे हैं।

लड़ाई को ईंधन देने के लिए, ट्विटर ने मैडबिट नामक एक दृश्य खुफिया स्टार्टअप और एक एआई तंत्रिका नेटवर्क स्टार्टअप, वेटलाब हासिल किया। वायर्ड के मुताबिक, उनकी एआई आपत्तिजनक छवियों की पहचान कर सकती है, और एक साल पहले केवल गलत तरीके से हानिरहित छवियों को ध्वजांकित कर सकती थी। इससे कठिन नौकरी करने के लिए आवश्यक मनुष्यों की संख्या कम हो जाती है, हालांकि ट्विटर को अभी भी एक इंसान की आवश्यकता है कि वह आक्रामक छवियों के लिए खाता निलंबित करने से पहले आगे बढ़ने की आवश्यकता हो।

फेसबुक अपनी एआई दृष्टि प्रौद्योगिकियों को दिखाता है

एक क्रूर नौकरी

जब दुर्भावनापूर्ण उपयोगकर्ता लोगों को पीड़ित या परेशान करने के लिए कुछ आक्रामक अपलोड करते हैं, तो परंपरागत रूप से इसे कम से कम एक मानव, या तो उपयोगकर्ता या भुगतान कार्यकर्ता द्वारा देखा और ध्वजांकित किया जाना चाहिए। इन आक्रामक पोस्ट जो फेसबुक या ट्विटर की सेवा की शर्तों का उल्लंघन करती हैं उनमें ऐसी सामग्री शामिल हो सकती है जो घृणास्पद भाषण, धमकी देने या अश्लील हो; हिंसा को उत्तेजित करता है; या नग्नता या ग्राफिक या अनावश्यक हिंसा शामिल है।

उदाहरण के लिए, एक धमकाने वाला, झुका हुआ पूर्व प्रेमी, स्टैकर, आतंकवादी या ट्रोल किसी की दीवार, समूह, घटना या फ़ीड पर आक्रामक फ़ोटो पोस्ट कर सकता है। वे बदला अश्लील, घृणित गौरी छवियों या कामुकतावादी या जातिवादी memes अपलोड कर सकते हैं। जब तक कोई सामग्री आक्रामक के रूप में ध्वजांकित करता है तो फेसबुक इसकी समीक्षा करता है और इसे नीचे ले सकता है, क्षति आंशिक रूप से की जाती है।

पहले, ट्विटर और फेसबुक ने बाहरी मानव ठेकेदारों पर क्रॉइडफ्लॉवर, या फिलीपींस की कंपनियों जैसे स्टार्टअप से बड़े पैमाने पर भरोसा किया था। 2014 तक, वायर्ड ने बताया कि अनुमानों ने मानव सामग्री मॉडरेटर की संख्या लगभग 100, 000 पर दर्ज की है, जिनमें से कई महीने में 500 डॉलर प्रति माह कम वेतन डालते हैं।

यह व्यवसाय कुख्यात रूप से भयानक है, मनोवैज्ञानिक रूप से घायल श्रमिक जिन्हें बाल अश्लील से लेकर सिरदर्द तक, भ्रम की गहराई से गुजरना पड़ता है। बर्नआउट जल्दी होता है, श्रमिक पोस्ट-आघात संबंधी तनाव विकार के समान लक्षणों का हवाला देते हैं और वर्कप्लेस वेल्बिंग जैसी पूरी स्वास्थ्य सलाहकारों ने स्कार्ड मॉडरेटर की सहायता के लिए उभरा है।

फेसबुक की जॉक्विन कैंडेला एमआईटी टेक्नोलॉजी रिव्यू के एमटेक डिजिटल कॉन्फ्रेंस में एआई पर प्रस्तुत करती है

लेकिन एआई फेसबुक को इतनी भयानक नौकरी के अधीन रहने से बचने में मदद कर रहा है। ठेकेदारों को रक्षा की पहली पंक्ति बनाने या प्रतिक्रियाशील मॉडरेशन का उपयोग करने के बजाय जहां असुरक्षित उपयोगकर्ताओं को पहली बार आक्रामक छवि को ध्वजांकित करना होगा, एआई कंप्यूटर को प्रत्येक छवि को अपलोड करने से पहले अपलोड की गई प्रत्येक छवि को स्कैन करके स्केल पर सक्रिय मॉडरेशन अनलॉक कर सकता है।

आज हमारे पास एआई एल्गोरिदम द्वारा लोगों की तुलना में अधिक आक्रामक तस्वीरें दी जा रही हैं। फेसबुक के जॉक्विन कैंडेला

सैन फ्रांसिस्को में एमआईटी टेक्नोलॉजी रिव्यू के एमटेक डिजिटल कॉन्फ्रेंस में अपनी हालिया बातचीत के बाद, मैं एप्लाइड मशीन लर्निंग जोकिन कैंडेला के लिए फेसबुक के निदेशक ऑफ इंजीनियरिंग के साथ बैठ गया।

उन्होंने फेसबुक के लिए एआई के व्यावहारिक उपयोगों के बारे में बात की, जहां 25 प्रतिशत इंजीनियरों अब नियमित रूप से सुविधाओं का निर्माण करने और व्यवसाय करने के लिए अपने आंतरिक एआई मंच का उपयोग करते हैं। गणना शक्ति के 40 petaflops के साथ, फेसबुक अरबों पैरामीटर के साथ डेटा नमूने के लाखों का विश्लेषण करता है। यह एआई रैंक समाचार फ़ीड कहानियों में मदद करता है, दृष्टिहीन दृष्टि में तस्वीरों की सामग्री को बड़े पैमाने पर पढ़ता है और वीडियो विज्ञापनों के लिए स्वचालित रूप से बंद कैप्शन लिखता है जो दृश्य समय को 12 प्रतिशत तक बढ़ाते हैं।

फेसबुक के जोएक्विन कैंडेला वीडियो में दोस्तों के एआई टैगिंग के शोध प्रोटोटाइप को दिखाता है

कैंडेला ने खुलासा किया कि फेसबुक वीडियो में चेहरे की स्वचालित टैगिंग बनाने के लिए एआई का उपयोग करने के अनुसंधान चरणों में है, और एक टैग किए गए व्यक्ति को वीडियो में दिखाई देने पर तुरंत तेज़ी से आगे बढ़ने का विकल्प है। फेसबुक ने विषय के आधार पर वीडियो को वर्गीकृत करने के लिए एक प्रणाली भी बनाई है। कैंडेला ने मंच पर एक उपकरण का प्रदर्शन किया जो बिल्लियों, भोजन या आतिशबाजी जैसे श्रेणी के अनुसार वीडियो संग्रह दिखा सकता है।

लेकिन एआई का एक आशाजनक अनुप्रयोग भयानक सामग्री नियंत्रण नौकरियों से मनुष्यों को बचा रहा है। कैंडेला ने मुझे बताया कि "दिलचस्प बात यह है कि आज हमारे पास लोगों की तुलना में एआई एल्गोरिदम द्वारा अधिक आक्रामक तस्वीरें दी जा रही हैं। जितना अधिक हम 100 प्रतिशत तक दबाते हैं, कम आक्रामक तस्वीरों को वास्तव में मानव द्वारा देखा जाता है।"

फेसबुक, ट्विटर और अन्य लोगों को एक साथ यह सुनिश्चित करना होगा कि उनके स्वचालित सिस्टम कठोर विचार पुलिस बनने में फिसल न जाए। गलत बनाया गया है, या अत्यधिक रूढ़िवादी नियमों के साथ पढ़ाया जाता है, एआई कला और मुक्त अभिव्यक्ति को सेंसर कर सकता है जो कि उत्पादक या सुंदर हो सकता है भले ही यह विवादास्पद हो। और एआई के अधिकांश रूपों के साथ, यह ज़रूरत वाले लोगों से नौकरियां ले सकता है।

ढाल साझा करना

फेसबुक की रक्षा करना एक बड़ी नौकरी है। सैन फ्रांसिस्को में हाल ही में एप्लाइड एआई सम्मेलन में अपने बोलने वाले गग के बाद, मैंने फेसबुक के कृत्रिम खुफिया मंच फेसबुक लर्नर के बारे में कोर मशीन लर्निंग हुसैन मेहन्ना के फेसबुक के निदेशक के साथ बात की।

मेहन्ना ने मुझे हर मिनट फेसबुक पर 400, 000 नई पोस्ट प्रकाशित की हैं, और हस्तियों और ब्रांडों द्वारा सार्वजनिक पदों पर 180 मिलियन टिप्पणियां छोड़ी गई हैं। यही कारण है कि छवियों से परे, मेहन्ना ने मुझे बताया कि फेसबुक मंच पर साझा पाठ के अर्थ को समझने की कोशिश कर रहा है।

एआई अंततः फेसबुक से नफरत भाषण में मदद कर सकता है। आज ट्विटर, ट्विटर, यूट्यूब और माइक्रोसॉफ्ट के साथ नए घृणित भाषण नियमों पर सहमत हुए। वे 24 घंटे के भीतर घृणास्पद भाषण को हटाने के लिए काम करेंगे यदि यह सभी ईयू देशों के लिए एक एकीकृत परिभाषा का उल्लंघन करता है। उस समय की सीमा कंप्यूटर को प्रयासों को ध्यान में रखते हुए बहुत अधिक व्यवहार्य लगती है।

फेसबुक के हुसैन मेहन्ना एप्लाइड एआई सम्मेलन में बोलते हैं

वही एआई मंच सिर्फ फेसबुक की तुलना में अधिक सुरक्षित हो सकता है, और केवल समस्याग्रस्त छवियों से अधिक विफल हो सकता है।

मेहना ने मुझे बताया, "इंस्टाग्राम मंच के शीर्ष पर पूरी तरह से है। मैंने सुना है कि वे इसे बहुत पसंद करते हैं।" "व्हाट्सएप मंच के कुछ हिस्सों का उपयोग करता है

ओकुलस मंच के कुछ पहलुओं का उपयोग करें। "

Instagram पर सामग्री नियंत्रण के लिए आवेदन स्पष्ट है, हालांकि व्हाट्सएप भी साझा की गई छवियों की जबरदस्त राशि देखता है। एक दिन, ओकुलस वर्चुअल रियलिटी में हमारे अनुभवों को न केवल आक्रामक सामग्री दिखाए जाने के दुःस्वप्न के खिलाफ सुरक्षा दी जा सकती है, लेकिन दिखाए गए दृश्यों के माध्यम से जीने के लिए मजबूर होना पड़ता है।

हम एआई को हमारे गुप्त हथियार के रूप में नहीं देखते हैं। फेसबुक के हुसैन मेहन्ना

लेकिन सामाजिक नेटवर्क पर आक्रामक सामग्री के कारण मानव पीड़ा पर युद्ध करने के लिए, और मॉडरेटर जो इसे ब्लॉक करने के लिए अपनी खुद की स्वच्छता बेचते हैं, फेसबुक अपने स्वयं के परिवारों के बाहर पुलों का निर्माण कर रहा है।

मेहन्ना बताते हैं, "हम अपने शोध को खुले तौर पर साझा करते हैं, इस बारे में बताते हैं कि फेसबुक अपने निष्कर्षों को कैसे साझा कर रहा है और अपनी एआई प्रौद्योगिकियों को खोल रहा है। "हम एआई को अन्य कंपनियों के साथ प्रतिस्पर्धा करने के लिए हमारे गुप्त हथियार के रूप में नहीं देखते हैं।"

असल में, एक साल पहले फेसबुक ने एआई के अनुप्रयोगों पर चर्चा करने के लिए नेटफ्लिक्स, Google, उबर, ट्विटर और अन्य महत्वपूर्ण तकनीकी कंपनियों से टीमों को आमंत्रित करना शुरू किया था। मेहन्ना का कहना है कि फेसबुक अब आवधिक मीटिंग्स का चौथा या पांचवां दौर कर रहा है, जहां "हम सचमुच उनके एआई सिस्टम के डिजाइन विवरण" साझा करते हैं, अपनी पड़ोसी तकनीकी कंपनियों की टीमों को पढ़ते हैं और प्रतिक्रिया प्राप्त करते हैं।

मार्क जुकरबर्ग ने एफ 8 2016 में फेसबुक के 10 साल के रोडमैप के हिस्से के रूप में एआई दृष्टि और भाषाओं का हवाला दिया

मेहन्ना ने मजबूती दी, "आगे बढ़ना एआई कुछ ऐसा समुदाय है जो आप समुदाय और दुनिया के लिए करना चाहते हैं क्योंकि यह कई लोगों के जीवन को छूने जा रहा है।" पहली नज़र में, यह उन कंपनियों की सहायता के लिए रणनीतिक गलती प्रतीत हो सकती है जो फेसबुक समय व्यतीत करने और विज्ञापन डॉलर के लिए प्रतिस्पर्धा करता है।

लेकिन जब मेहना खुले सोर्सिंग के बारे में बात करती है तो मेहन्ना फेसबुक पर कैंडेला और दूसरों की भावना को उजागर करती है। "मैं व्यक्तिगत रूप से मानता हूं कि यह जीत-हार की स्थिति नहीं है, यह जीत-जीत की स्थिति है। अगर हम दुनिया में एआई की स्थिति में सुधार करते हैं, तो हम निश्चित रूप से अंततः लाभ उठाएंगे। लेकिन मुझे लोगों को निकल नहीं दिख रहा है और इसे कम कर रहा है।"

निश्चित रूप से, अगर फेसबुक साझा नहीं करता है, तो यह कुछ रुपये बचा सकता है जो दूसरों को मानवीय सामग्री नियंत्रण या एआई से बचना अन्य टाइलिंग पर खर्च करना पड़ता है। लेकिन अपनी अंतर्निहित प्रौद्योगिकियों के निर्माण और पेशकश करके, फेसबुक यह सुनिश्चित कर सकता है कि यह कंप्यूटर है, न कि लोग, गंदे काम कर रहे हैं।