टेक्स्ट टॉक्सिसिटी एनालाइज़र एपीआई टेक्स्ट अंशों में विषाक्तता का विश्लेषण करने और वर्गीकृत करने के लिए डिज़ाइन किया गया है। यह एपीआई संभावित रूप से हानिकारक सामग्री का सही मूल्यांकन करके सुरक्षित और सम्मानजनक बातचीत के स्थानों को बनाए रखने में मदद करता है। जब किसी पाठ को इनपुट के रूप में प्रस्तुत किया जाता है, तो सिस्टम एक समग्र विषाक्तता स्कोर, एक स्पष्ट वर्गीकरण (जैसे "गैर-विषाक्त" या "विषाक्त"), और श्रेणीवार एक विस्तृत विश्लेषण लौटाता है, जिसमें सामान्य विषाक्तता, गंभीर विषाक्तता, अश्लील भाषा, धमकियाँ, अपमान और पहचान के आधार पर नफरत शामिल हैं।
उन्नत प्राकृतिक भाषा प्रसंस्करण (एनएलपी) मॉडलों के आभार के लिए, यह एपीआई भाषा में सूक्ष्म बारीकियों को पहचान सकता है, यहाँ तक कि उन अभिव्यक्तियों का पता भी लगा सकता है जो दुर्व्यवहार, पैसिव आक्रामकता या ध्रुवीकृत भाषा के रूप में प्रच्छन्न होती हैं। प्रत्येक विश्लेषण में स्वचालित निर्णय या मानव-सहायता प्राप्त मध्यस्थता का समर्थन करने के लिए विश्वास स्तर शामिल होते हैं।
{"request_id":"a92c6fa4-2649-4a1b-9c2e-0af536a77e17","overall_score":0.2841,"classification":"toxic","confidence":0.2841,"category_scores":{"toxic":0.2841,"severe_toxic":0.003,"obscene":0.0075,"threat":0.0313,"insult":0.0505,"identity_hate":0.0417}}
curl --location --request POST 'https://zylalabs.com/api/7803/text+toxicity+analyzer+api/12777/toxicity+detection' --header 'Authorization: Bearer YOUR_API_KEY'
--data-raw '{
"text": "I hate you.."
}'
| हेडर | विवरण |
|---|---|
Authorization
|
[आवश्यक] होना चाहिए Bearer access_key. जब आप सब्सक्राइब हों तो ऊपर "Your API Access Key" देखें। |
कोई लंबी अवधि की प्रतिबद्धता नहीं। कभी भी अपग्रेड, डाउनग्रेड या कैंसल करें। फ्री ट्रायल में 50 रिक्वेस्ट तक शामिल हैं।
एपीआई एक समग्र विषाक्तता स्कोर, एक वर्गीकरण लेबल (जैसे "गैर विषाक्त" या "विषाक्त") और विषाक्तता श्रेणियों का विस्तृत विश्लेषण लौटाता है जैसे सामान्य विषाक्तता, गंभीर विषाक्तता, अभद्र भाषा, धमकियां, अपमान और पहचान आधारित नफरत
प्रतिक्रिया में मुख्य क्षेत्र "toxicity_score," "classification," और श्रेणी विभाजन जैसे "general_toxicity," "severe_toxicity," "obscene," "threats," "insults," और "hate_speech" शामिल हैं जिनके साथ विश्वास स्तर होते हैं
प्रतिक्रिया डेटा JSON प्रारूप में संरचित है जिसमें एक मुख्य ऑब्जेक्ट होता है जो समग्र विषाक्तता स्कोर और वर्गीकरण को दर्शाता है इसके बाद प्रत्येक विषाक्तता श्रेणी के लिए नेस्टेड ऑब्जेक्ट होते हैं जो स्कोर और आत्मविश्वास स्तर का विवरण देते हैं
POST एंडपॉइंट के लिए मुख्य पैरामीटर "text" फ़ील्ड है जहां उपयोगकर्ता उस पाठ को इनपुट करते हैं जिसे वे विषाक्तता के लिए विश्लेषण करना चाहते हैं अतिरिक्त पैरामीटर में भाषा सेटिंग या विशिष्ट विषाक्तता श्रेणियाँ शामिल हो सकती हैं जिन पर ध्यान केंद्रित किया जाना है
डेटा सटीकता को उन्नत प्राकृतिक भाषा प्रसंस्करण (NLP) मॉडल के माध्यम से बनाए रखा जाता है जिन्हें नियमित रूप से अपडेट किया जाता है और विविध डेटा सेटों पर प्रशिक्षित किया जाता है ताकि सूक्ष्म भाषा के बारीकियों और विषाक्तता के विकसित अभिव्यक्तियों को पहचाना जा सके
विशिष्ट उपयोग के मामलों में ऑनलाइन फोरम की निगरानी करना उपयोगकर्ता द्वारा उत्पन्न सामग्री का विश्लेषण करना हानिकारक भाषा के लिए सामुदायिक दिशानिर्देशों को सुदृढ़ करना और चैट अनुप्रयोगों में सुरक्षित संवाद के लिए उपकरण विकसित करना शामिल हैं
उपयोगकर्ता लौटाए गए डेटा का उपयोग विषाक्तता स्कोर और वर्गीकरण को मॉडरेशन वर्कफ़्लोज़ में एकीकृत करके कर सकते हैं उच्च विषाक्तता स्तरों के लिए अलर्ट सक्रिय करना या समुदाय के स्वास्थ्य और सुरक्षा का आकलन करने के लिए रिपोर्ट उत्पन्न करना
गुणवत्ता जांचों में वास्तविक दुनिया के डेटा, उपयोगकर्ता फीडबैक लूप और प्रदर्शन मेट्रिक्स के खिलाफ निरंतर मॉडल मूल्यांकन शामिल है ताकि यह सुनिश्चित हो सके कि एपीआई विभिन्न संदर्भों और भाषाओं में विषाक्तता को सही ढंग से पहचानता और वर्गीकृत करता है
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
267ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
157ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
179ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
348ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
472ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
168ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
367ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
461ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
253ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
67ms