कंटेंट सेफ्टी मॉडरेटर एपीआई टेक्स्ट में हानिकारक सामग्री का पता लगाने और वर्गीकृत करने के लिए एआई का उपयोग करता है
सोशल प्लेटफार्मों, फोरम, चैट एप्लिकेशन, टिप्पणी प्रणाली और किसी भी ऐसे एप्लिकेशन के लिए बनाया गया है जिसे उपयोगकर्ता-जनित सामग्री को मॉडरेट करने की आवश्यकता है
{"safe":true,"riskScore":0,"riskLevel":"none","categories":{"violence":{"detected":false,"confidence":0},"hate":{"detected":false,"confidence":0},"sexual":{"detected":false,"confidence":0},"selfHarm":{"detected":false,"confidence":0},"profanity":{"detected":false,"confidence":0},"harassment":{"detected":false,"confidence":0},"criminal":{"detected":false,"confidence":0},"childExploitation":{"detected":false,"confidence":0},"weapons":{"detected":false,"confidence":0},"privacy":{"detected":false,"confidence":0}},"flaggedCategories":[],"summary":"The message is safe and contains no harmful content.","language":"en"}
curl --location --request POST 'https://zylalabs.com/api/12320/content+safety+moderator+api/23139/moderate+content' --header 'Authorization: Bearer YOUR_API_KEY'
--data-raw '{"text":"Hello, this is a friendly test message."}'
| हेडर | विवरण |
|---|---|
Authorization
|
[आवश्यक] होना चाहिए Bearer access_key. जब आप सब्सक्राइब हों तो ऊपर "Your API Access Key" देखें। |
कोई लंबी अवधि की प्रतिबद्धता नहीं। कभी भी अपग्रेड, डाउनग्रेड या कैंसल करें। फ्री ट्रायल में 50 रिक्वेस्ट तक शामिल हैं।
The Content Safety Moderator API can detect various types of harmful content including toxic, offensive, hateful, threatening, and inappropriate text.
The API classifies content into several categories such as hate speech, harassment, self-harm, violence, and sexual content, providing a clear understanding of the nature of the detected harmful content.
The API returns confidence scores for each category of harmful content detected, along with an overall safety verdict indicating whether the content is safe or unsafe.
The API is designed for use in social platforms, forums, chat applications, comment systems, and any application that requires moderation of user-generated content to ensure a safe environment.
The API accepts text input for analysis and returns structured output in a format that includes category classifications, confidence scores, and an overall safety verdict.
मोडरेट कंटेंट एंडपॉइंट संरचित डेटा लौटाता है जिसमें एक समग्र सुरक्षा निर्णय जोखिम स्कोर श्रेणी वर्गीकरण और विभिन्न प्रकार की हानिकारक सामग्री के लिए विश्वास स्तर शामिल हैं जो विश्लेषित पाठ मेंDetected किये गए हैं
प्रतिक्रिया में महत्वपूर्ण क्षेत्र "safe" (बूलियन), "riskScore" (संख्यात्मक), "riskLevel" (स्ट्रिंग), "categories" (पाई गई सामग्री प्रकारों के साथ वस्तु), "flaggedCategories" (ऐरे), और "summary" (सामग्री की सुरक्षा का वर्णन करने वाली स्ट्रिंग) शामिल हैं
प्रतिक्रिया डेटा को एक JSON संरचना में व्यवस्थित किया गया है जिसमें सुरक्षा फैसलों और जोखिम आकलनों के लिए उच्च-स्तरीय क्षेत्र हैं इसके बाद श्रेणी वर्गीकरण और उनके संबंधित आत्मविश्वास स्कोर का विस्तृत विवरण है
मॉडरेट कंटेंट एंडपॉइंट मुख्य रूप से एकल पैरामीटर को स्वीकार करता है: विश्लेषण के लिए पाठ सामग्री उपयोगकर्ता अपने अनुरोधों को मॉडरेशन के लिए विभिन्न पाठ इनपुट प्रदान करके अनुकूलित कर सकते हैं
उपयोगकर्ता "सुरक्षित" क्षेत्र की व्याख्या करके सामग्री की सुरक्षा का निर्धारण करने के लिए लौटाए गए डेटा का उपयोग कर सकते हैं "जोखिम स्कोर" का उपयोग करके गंभीरता का आकलन कर सकते हैं और "श्रेणियों" का संदर्भ देकर विशिष्ट हानिकारक सामग्री प्रकारों को जनशक्ति क्रियाओं के लिए सूचित कर सकते हैं
प्रचलित उपयोग के मामले में सोशल मीडिया पर उपयोगकर्ता टिप्पणियों का मॉडरेशन करना फोरम में चैट संदेशों को फ़िल्टर करना और स्वचालित रूप से हानिकारक पाठ को समीक्षा के लिए चिह्नित करके ऑनलाइन समुदायों में सुरक्षित सामग्री सुनिश्चित करना शामिल है
डेटा सटीकता को विभिन्न डेटासेट्स पर एआई मॉडल के निरंतर प्रशिक्षण नियमित रूप से सुधारने के लिए अपडेट द्वारा पहचान क्षमताओं में सुधार किया जाता है और हानिकारक सामग्री के वास्तविक जीवन के उदाहरणों के खिलाफ मान्यता देकर बनाए रखा जाता है
मानक डेटा पैटर्न में यह स्पष्ट संकेत होता है कि सामग्री सुरक्षित है या असुरक्षित है प्रत्येक श्रेणी के लिए विस्तृत आत्मविश्वास स्कोर होते हैं और एक सारांश होता है जो विश्लेषण के परिणाम का संक्षेप में वर्णन करता है जो त्वरित निर्णय लेने में मदद करता है
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
662ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
151ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
136ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
192ms
सर्विस लेवल:
99%
रिस्पॉन्स टाइम:
1,259ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
561ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
191ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
2,521ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
179ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
336ms