“เ-ี้ย”
คำอุทานที่หลายๆ คนน่าจะคุ้นชินกันเป็นอย่างดี กับเพื่อนๆ คนสนิทหน่ะไม่เป็นไรหรอก แต่อย่าไปพูดเป็นทางการเชียว
แต่เชื่อไหมว่าในสังคมออนไลน์ที่ผู้คนสามารถส่งข้อความเข้าสู่ระบบอินเตอร์เน็ตได้อย่างมหาศาล ความท้าทายของเจ้าของระบบที่ต้องการคัดกรอง ไม่ใช่แค่คำหยาบคาย แต่รวมไปถึงคำอื่นๆ ที่ล่อแหลมอย่าง การคุกคามทางเพศ หรือการบูลลี่ (Bully) คนอื่น
เพราะการที่คนมาอยู่รวมกันในที่ๆ หนึ่ง ไม่ต้องเป็นร่างกายจริงก็ได้ ก็สามารถแสดงออกได้ในหลากหลายรูปแบบ และ Profanity เป็นสิ่งหนึ่งที่ผู้ดูแลต้องสอดส่อง และดูแลให้ลดน้อยในสังคมออนไลน์
Profanity ต้นตอแห่งความหยาบ
หากเอา Profanity ไปค้นหาความหมายจะได้ความหมายแรกเป็นคำหยาบ แน่นอนว่าในชุมชน หรือการสนทนาหนึ่ง ความหยาบนั้นแตกต่างกันไป
เช่น
- การคุยกับเพื่อนในห้องแชท คำๆ หนึ่งอาจจะไม่ใช่คำหยาบ แต่คำเดียวกันไปโผล่บนรีวิวสินค้า อาจจะสร้างความไม่พอใจให้คนที่ผ่านมาเห็น
- การที่ลูกค้าสาดเทอารมณ์ใส่ Customer service ในห้องแชทก็สามารถเกิดเป็นคดีความได้เช่นกัน รวมถึงอาจมีผลกระทบทางจิตใจของพนักงานคนนั้นไปเลย
- หรือการทะเลาะกันทางระบบออนไลน์ที่อาจนำมาสู่ปัญหาบานปลายได้
คำถามของผู้ดูแลคือ จะสามารถตรวจจับคำที่มีแนวโน้มเข้าข่ายพวกนี้ได้ยังไง?
การตรวจจับ Profanity ใน Azure Text Moderation API
สำหรับคนที่ใช้บริการของ Microsoft Azure เราสามารถส่งข้อความใดๆ ก็ได้จากระบบของเราให้ Text Moderation API ตรวจสอบ ซึ่งหากมีการพบคำที่สุ่มเสี่ยง ก็จะมีการส่งข้อมูลกลับมาให้ระบบของเราพิจารณาต่อไป
โดยรูปแบบจะเป็นข้อความแบบ JSON ที่แม้แต่คนทั่วไปก็สามารถอ่านข้อมูลได้
"Terms": [
{
"Index": 118,
"OriginalIndex": 118,
"ListId": 0,
"Term": "crap"
}- Term: คำที่พบ
- Index: ตำแหน่งของคำที่เจอในข้อความต้นฉบับ
- ListId: รายการกลุ่มคำที่กำหนดขึ้นมาเอง ในกรณีที่ต้องการให้ตรวจจับคำใดคำหนึ่งเป็นพิเศษโดยเฉพาะ เพื่อให้เจ้าของระบบเอาไปเทียบพิจารณาต่อไป
ดังนั้นจะเห็นว่า Azure Text Moderation API นั้นจะเหมือนเป็นโปรแกรมที่พร้อมสำหรับอ่านข้อความ และเทียบกับกลุ่มคำที่ส่อไปในรูปแบบ Profanity และรายงานผลถ้ามีการตรวจพบ
ซ้ำยังสามารถกำหนดกลุ่มคำเฉพาะขึ้นมาเอง เพื่อให้ Text Moderation API ทำการเอามาเทียบเพิ่มเติมได้ด้วยครับ
สนใจเรียนรู้เรื่อง AI เข้าใจง่าย เอามาใช้จริงติดตามโค้ชพลด้านล่างเลย
- ติดตามจากแฟนเพจ Nextflow
- กดติดตามคลิปใหม่ๆ Subscribe YouTube Channel ของพลได้เลย
- โทรติดต่อบริการจัดอบรม 083-071-3373 คลิกโทรผ่านมือถือได้เลย
- สอบถามผ่านทาง LINE คลิก
- สอบถามผ่านทาง Facebook คลิก
อ้างอิง – Microsoft Docs: Text Moderation