AI

AI: รู้จักกับ Profanity และบทบาทที่ AI เข้ามาช่วยมนุษย์จัดการปัญหา

เรื่องที่เกี่ยวข้อง - , , ,
“Machine Learning & Artificial Intelligence” by mikemacmarketing is licensed under CC BY 2.0

“เ-ี้ย”

คำอุทานที่หลายๆ คนน่าจะคุ้นชินกันเป็นอย่างดี กับเพื่อนๆ คนสนิทหน่ะไม่เป็นไรหรอก แต่อย่าไปพูดเป็นทางการเชียว

แต่เชื่อไหมว่าในสังคมออนไลน์ที่ผู้คนสามารถส่งข้อความเข้าสู่ระบบอินเตอร์เน็ตได้อย่างมหาศาล ความท้าทายของเจ้าของระบบที่ต้องการคัดกรอง ไม่ใช่แค่คำหยาบคาย แต่รวมไปถึงคำอื่นๆ ที่ล่อแหลมอย่าง การคุกคามทางเพศ หรือการบูลลี่ (Bully) คนอื่น

เพราะการที่คนมาอยู่รวมกันในที่ๆ หนึ่ง ไม่ต้องเป็นร่างกายจริงก็ได้ ก็สามารถแสดงออกได้ในหลากหลายรูปแบบ และ Profanity เป็นสิ่งหนึ่งที่ผู้ดูแลต้องสอดส่อง และดูแลให้ลดน้อยในสังคมออนไลน์

Profanity ต้นตอแห่งความหยาบ

หากเอา Profanity ไปค้นหาความหมายจะได้ความหมายแรกเป็นคำหยาบ แน่นอนว่าในชุมชน หรือการสนทนาหนึ่ง ความหยาบนั้นแตกต่างกันไป

เช่น

  • การคุยกับเพื่อนในห้องแชท คำๆ หนึ่งอาจจะไม่ใช่คำหยาบ แต่คำเดียวกันไปโผล่บนรีวิวสินค้า อาจจะสร้างความไม่พอใจให้คนที่ผ่านมาเห็น
  • การที่ลูกค้าสาดเทอารมณ์ใส่ Customer service ในห้องแชทก็สามารถเกิดเป็นคดีความได้เช่นกัน รวมถึงอาจมีผลกระทบทางจิตใจของพนักงานคนนั้นไปเลย
  • หรือการทะเลาะกันทางระบบออนไลน์ที่อาจนำมาสู่ปัญหาบานปลายได้

คำถามของผู้ดูแลคือ จะสามารถตรวจจับคำที่มีแนวโน้มเข้าข่ายพวกนี้ได้ยังไง?

การตรวจจับ Profanity ใน Azure Text Moderation API

สำหรับคนที่ใช้บริการของ Microsoft Azure เราสามารถส่งข้อความใดๆ ก็ได้จากระบบของเราให้ Text Moderation API ตรวจสอบ ซึ่งหากมีการพบคำที่สุ่มเสี่ยง ก็จะมีการส่งข้อมูลกลับมาให้ระบบของเราพิจารณาต่อไป

โดยรูปแบบจะเป็นข้อความแบบ JSON ที่แม้แต่คนทั่วไปก็สามารถอ่านข้อมูลได้

"Terms": [
{
    "Index": 118,
    "OriginalIndex": 118,
    "ListId": 0,
    "Term": "crap"
}
  • Term: คำที่พบ
  • Index: ตำแหน่งของคำที่เจอในข้อความต้นฉบับ
  • ListId: รายการกลุ่มคำที่กำหนดขึ้นมาเอง ในกรณีที่ต้องการให้ตรวจจับคำใดคำหนึ่งเป็นพิเศษโดยเฉพาะ เพื่อให้เจ้าของระบบเอาไปเทียบพิจารณาต่อไป

ดังนั้นจะเห็นว่า Azure Text Moderation API นั้นจะเหมือนเป็นโปรแกรมที่พร้อมสำหรับอ่านข้อความ และเทียบกับกลุ่มคำที่ส่อไปในรูปแบบ Profanity และรายงานผลถ้ามีการตรวจพบ

ซ้ำยังสามารถกำหนดกลุ่มคำเฉพาะขึ้นมาเอง เพื่อให้ Text Moderation API ทำการเอามาเทียบเพิ่มเติมได้ด้วยครับ

สนใจเรียนรู้เรื่อง AI เข้าใจง่าย เอามาใช้จริงติดตามโค้ชพลด้านล่างเลย

อ้างอิง – Microsoft Docs: Text Moderation

Loading Facebook Comments ...
Menu