सेफ टेक्स्ट एपीआई पाठ खंडों में विषाक्तता का विश्लेषण और वर्गीकरण करने के लिए डिज़ाइन किया गया है। यह एपीआई संभावित हानिकारक सामग्री का सटीक आकलन करके सुरक्षित और सम्मानजनक बातचीत के स्थानों को बनाए रखने में मदद करता है। जब कोई पाठ इनपुट के रूप में प्रस्तुत किया जाता है, तो प्रणाली एक समग्र विषाक्तता स्कोर, एक स्पष्ट वर्गीकरण (जैसे “गैर-विषाक्त” या “विषाक्त”) और श्रेणी के अनुसार विस्तृत विश्लेषण लौटाती है, जिसमें सामान्य विषाक्तता, गंभीर विषाक्तता, अश्लील भाषा, धमकियाँ, अपमान और पहचान आधारित नफरत शामिल हैं।
उन्नत प्राकृतिक भाषा प्रसंस्करण (NLP) मॉडलों के लिए धन्यवाद, यह एपीआई भाषा में सूक्ष्म बारीकियों की पहचान कर सकता है, यहां तक कि ऐसे अभिव्यक्तियों का पता लगाना जो दुर्व्यवहार, निष्क्रिय आक्रामकता या ध्रुवीकृत भाषा के रूप में सजे होते हैं। प्रत्येक विश्लेषण में स्वचालित निर्णयों या मानव-सहायता उपयुक्तता का समर्थन करने के लिए विश्वास स्तर शामिल होते हैं।
{"request_id":"a92c6fa4-2649-4a1b-9c2e-0af536a77e17","overall_score":0.2841,"classification":"toxic","confidence":0.2841,"category_scores":{"toxic":0.2841,"severe_toxic":0.003,"obscene":0.0075,"threat":0.0313,"insult":0.0505,"identity_hate":0.0417}}
curl --location --request POST 'https://zylalabs.com/api/7800/safe+text+api/12773/toxicity+detection' --header 'Authorization: Bearer YOUR_API_KEY'
--data-raw '{
"text": "I hate you.."
}'
| हेडर | विवरण |
|---|---|
Authorization
|
[आवश्यक] होना चाहिए Bearer access_key. जब आप सब्सक्राइब हों तो ऊपर "Your API Access Key" देखें। |
कोई लंबी अवधि की प्रतिबद्धता नहीं। कभी भी अपग्रेड, डाउनग्रेड या कैंसल करें। फ्री ट्रायल में 50 रिक्वेस्ट तक शामिल हैं।
एपीआई एक समग्र विषाक्तता स्कोर लौटाता है एक वर्गीकरण लेबल (जैसे "गैर विषाक्त" या "विषाक्त") और विषाक्तता श्रेणियों का विस्तृत विवरण जैसे सामान्य विषाक्तता गंभीर विषाक्तता अश्लील भाषा धमकियाँ अपमान और पहचान आधारित नफरत
प्रतिक्रिया में प्रमुख क्षेत्र "toxicity_score," "classification," और श्रेणी विभाजन जैसे "general_toxicity," "severe_toxicity," "obscene," "threats," "insults," और "hate_speech" शामिल हैं प्रत्येक के साथ आत्मविश्वास स्तर हैं
प्रतिक्रिया डेटा JSON प्रारूप में संरचित है जिसमें एक मुख्य वस्तु होती है जो कुल विषाक्तता स्कोर और वर्गीकरण को समाहित करती है इसके बाद प्रत्येक विषाक्तता श्रेणी के लिए एक स्तरित वस्तु होती है जो स्कोर और विश्वसनीयता स्तर का विवरण देती है
POST एंडपॉइंट के लिए प्राथमिक पैरामीटर "text" फ़ील्ड है जहां उपयोगकर्ता उस पाठ को दर्ज करते हैं जिसे वे विषाक्तता के लिए विश्लेषण करना चाहते हैं अतिरिक्त पैरामीटर में भाषा सेटिंग्स या विशिष्ट विषाक्तता श्रेणियां शामिल हो सकती हैं जिन पर ध्यान केंद्रित किया जाना है
डेटा की सटीकता उन्नत प्राकृतिक भाषा प्रसंस्करण (एनएलपी) मॉडलों के माध्यम से बनाए रखी जाती है जिन्हें नियमित रूप से अपडेट किया जाता है और विभिन्न डेटासेट पर प्रशिक्षित किया जाता है ताकि सूक्ष्म भाषा के संकेतों और विषाक्तता के विकसित अभिव्यक्तियों को पहचाना जा सके
सामान्य उपयोग के मामलों में ऑनलाइन फ़ोरम को नियंत्रित करना उपयोगकर्ता-जनित सामग्री के लिए हानिकारक भाषा का विश्लेषण करना सामुदायिक दिशानिर्देशों को सुधारना और चैट एप्लिकेशन में सुरक्षित संचार के लिए उपकरण विकसित करना शामिल है
उपयोगकर्ता लौटाए गए डेटा का उपयोग विषाक्तता स्कोर और वर्गीकरण को moderation कार्यप्रवाहों में एकीकृत करके उच्च विषाक्तता स्तरों के लिए अलर्ट सक्रिय करने या समुदाय के स्वास्थ्य और सुरक्षा का आकलन करने के लिए रिपोर्ट बनाने के लिए कर सकते हैं
गुणवत्ता जांच में वास्तविक दुनिया के डेटा के खिलाफ निरंतर मॉडल मूल्यांकन उपयोगकर्ता प्रतिक्रिया चक्र और प्रदर्शन मीट्रिक शामिल हैं ताकि यह सुनिश्चित किया जा सके कि एपीआई विभिन्न संदर्भों और भाषाओं में विषाक्तता को सही ढंग से पहचानता और वर्गीकृत करता है
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
991ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
2,140ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
947ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
1,024ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
1,520ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
406ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
271ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
249ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
462ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
117ms