ในภูมิทัศน์ออนไลน์ของวันนี้มันยากกว่าที่เคยระบุนักแสดงที่เป็นอันตรายเช่นโทรลล์และสคัตเตอร์กระจาย

บ่อยครั้งที่ความพยายามในการค้นหาบัญชีที่เป็นอันตรายมุ่งเน้นไปที่การวิเคราะห์สิ่งที่พวกเขาพูด อย่างไรก็ตามงานวิจัยล่าสุดของเราแสดงให้เห็นว่าเราควรให้ความสำคัญกับพวกเขามากขึ้น ทำ– พวกเขาทำอย่างไร

เราได้พัฒนาวิธีการระบุผู้เข้าร่วมออนไลน์ที่อาจเป็นอันตรายตามรูปแบบพฤติกรรมของพวกเขา (วิธีที่พวกเขาโต้ตอบกับผู้อื่น) มากกว่าสิ่งที่พวกเขาแบ่งปัน เรานำเสนอผลลัพธ์ในการประชุมเว็บ ACM ล่าสุดและได้รับกระดาษที่ดีที่สุด

นอกจากจะเห็นสิ่งที่ผู้คนพูด

วิธีการดั้งเดิมในการค้นหาพฤติกรรมออนไลน์ที่มีปัญหามักจะขึ้นอยู่กับสองวิธี หนึ่งคือการตรวจสอบสิ่งที่ (สิ่งที่ผู้คนพูด) อีกอย่างคือการวิเคราะห์การเชื่อมต่อเครือข่าย (ใครก็ตามที่ตามมา)

วิธีการเหล่านี้มีข้อ จำกัด

ผู้ใช้สามารถหลีกเลี่ยงการวิเคราะห์เนื้อหา พวกเขาสามารถเข้ารหัสภาษาของพวกเขาอย่างรอบคอบหรือแบ่งปันข้อมูลที่ทำให้เข้าใจผิดโดยไม่ต้องใช้คำทริกเกอร์ที่ชัดเจน

การวิเคราะห์เครือข่ายขาดแพลตฟอร์มเช่น Reddit ที่นี่การเชื่อมต่อระหว่างผู้ใช้ไม่ชัดเจน ชุมชนจัดระเบียบธีมมากกว่าความสัมพันธ์ทางสังคม

เราต้องการหาวิธีที่จะระบุนักแสดงที่เป็นอันตรายซึ่งไม่ได้ถูกล่อลวงโดย Gaid อย่างง่ายดาย เราตระหนักดีว่าเราสามารถมุ่งเน้นไปที่พฤติกรรม – ผู้คนมีปฏิสัมพันธ์กันอย่างไรไม่ใช่สิ่งที่พวกเขาพูด

สอน AI ให้เข้าใจพฤติกรรมของมนุษย์ออนไลน์

วิธีการของเราใช้เทคนิคที่เรียกว่าการเรียนรู้การเสริมแรงแบบผกผัน นี่เป็นวิธีที่ใช้กันทั่วไปเพื่อทำความเข้าใจการตัดสินใจของมนุษย์ในด้านต่าง ๆ เช่นทฤษฎีการขับขี่แบบอิสระหรือทฤษฎีการเล่นเกม

เราได้ปรับเทคโนโลยีนี้เพื่อวิเคราะห์พฤติกรรมของผู้ใช้บนแพลตฟอร์มโซเชียลมีเดีย

ระบบทำงานได้โดยการสังเกตการกระทำของผู้ใช้ (เช่นการสร้างเธรดใหม่โพสต์ความคิดเห็นและตอบกลับผู้อื่น) จากการกระทำเหล่านี้มันเป็นการละเมิดกลยุทธ์พื้นฐานหรือ “นโยบาย” ที่ผลักดันการกระทำของพวกเขา

ในกรณีศึกษา Reddit ของเราเราวิเคราะห์การโต้ตอบ 5.9 ล้านครั้งในช่วงหกปีที่ผ่านมา เราระบุบทบาทพฤติกรรมที่แตกต่างห้าประการรวมถึงกลุ่มที่สำคัญโดยเฉพาะอย่างยิ่ง -“ ไม่เห็นด้วย”

พบ “ไม่เห็นด้วย”

บางทีผลลัพธ์ที่น่าสนใจที่สุดของเราคือการค้นหาหมวดหมู่ของผู้ใช้ Reddit ทั้งหมดซึ่งมีจุดประสงค์หลักที่จะไม่เห็นด้วยกับผู้อื่น ผู้ใช้เหล่านี้แสวงหาโอกาสโดยเฉพาะในการโพสต์ความคิดเห็นที่ขัดแย้งโดยเฉพาะอย่างยิ่งเมื่อตอบสนองต่อความแตกต่างและจากนั้นยังคงรอการตอบกลับต่อไป

“ไม่เห็นด้วย” เป็นเรื่องธรรมดาที่สุดในกลุ่มย่อยที่เน้นการเมือง (ฟอรัมมุ่งเน้นไปที่หัวข้อเฉพาะ) เช่น R/News, R/WorldNews และ R/Politics ที่น่าสนใจแม้ว่าการมุ่งเน้นทางการเมืองตอนนี้ถูกแบน Pro-Trump Forum r/the_donald พวกเขาเป็นสากลน้อยกว่ามาก

รูปแบบนี้แสดงให้เห็นว่าการวิเคราะห์เชิงพฤติกรรมพบการเปลี่ยนแปลงที่การวิเคราะห์เนื้อหาอาจพลาดได้อย่างไร ใน r/the_donald ผู้ใช้มักจะเห็นด้วยซึ่งกันและกันในขณะที่นำทัศนคติที่ไม่เป็นมิตรไปสู่เป้าหมายภายนอก ไดนามิกนี้สามารถอธิบายได้ว่าทำไมการควบคุมเนื้อหาแบบดั้งเดิมจึงทำงานเพื่อแก้ปัญหาในชุมชนดังกล่าว

แฟนฟุตบอลและนักเล่นเกม

การวิจัยของเรายังเผยให้เห็นการเชื่อมต่อที่ไม่คาดคิด ผู้ใช้ที่พูดถึงหัวข้อที่แตกต่างอย่างสิ้นเชิงบางครั้งแสดงรูปแบบพฤติกรรมที่คล้ายกันมาก

เราพบความคล้ายคลึงกันที่โดดเด่นระหว่างผู้ใช้ที่พูดถึงฟุตบอล (ในการแข่งขัน R/Football) และ esports (บน r/loageflegends)

ความคล้ายคลึงกันนี้มาจากลักษณะพื้นฐานของทั้งสองชุมชน แฟนฟุตบอลและ esports มีส่วนร่วมในคู่ขนาน: พวกเขาสนับสนุนทีมที่เฉพาะเจาะจงอย่างกระตือรือร้นติดตามการแข่งขันที่น่าสนใจอย่างเข้มข้นมีส่วนร่วมในการอภิปรายที่เข้มข้นเกี่ยวกับกลยุทธ์และการแสดงของผู้เล่นเฉลิมฉลองชัยชนะและการแยกความล้มเหลว

ชุมชนทั้งสองส่งเสริมอัตลักษณ์ของชนเผ่าที่แข็งแกร่ง ผู้ใช้ปกป้องทีมยอดนิยมของพวกเขาในขณะที่วิพากษ์วิจารณ์คู่แข่ง

ไม่ว่าจะเป็นการถกเถียงกลยุทธ์พรีเมียร์ลีกหรือแชมป์ League of Legends รูปแบบการโต้ตอบขั้นพื้นฐาน (การตอบสนองของการตอบสนองทันทีลำดับและอารมณ์) นั้นสอดคล้องกันในชุมชนที่แตกต่างกันในท้องถิ่นเหล่านี้

สิ่งนี้ท้าทายแนวคิดดั้งเดิมเกี่ยวกับโพลาไรซ์ออนไลน์ แม้ว่าห้องก้องมักถูกตำหนิเพื่อเพิ่มความแตกแยก แต่งานวิจัยของเราแสดงให้เห็นว่ารูปแบบพฤติกรรมสามารถก้าวข้ามขอบเขตของท้องถิ่นได้ ผู้ใช้สามารถแบ่งผู้ใช้มากกว่าที่พวกเขาโต้ตอบด้วย

นอกเหนือจากการตรวจจับโทรลล์

ความหมายของการศึกษาครั้งนี้ไปไกลกว่าความสนใจด้านวิชาการ ผู้ดูแลแพลตฟอร์มสามารถใช้รูปแบบพฤติกรรมเพื่อระบุผู้ใช้ที่มีปัญหาก่อนที่จะโพสต์เนื้อหาที่เป็นอันตรายจำนวนมาก

การวิเคราะห์เชิงพฤติกรรมไม่ได้ขึ้นอยู่กับการทำความเข้าใจภาษา เป็นการยากที่จะหลบหนีเพราะการเปลี่ยนรูปแบบพฤติกรรมของคุณต้องใช้ความพยายามมากกว่าการปรับภาษาของคุณ

วิธีการนี้ยังสามารถช่วยออกแบบกลยุทธ์ที่มีประสิทธิภาพมากขึ้นเพื่อต่อต้านข้อความแสดงข้อผิดพลาด ไม่เพียง แต่เราสามารถมุ่งเน้นเนื้อหา แต่เรายังสามารถออกแบบระบบที่ส่งเสริมรูปแบบการมีส่วนร่วมที่สร้างสรรค์มากขึ้น

สำหรับผู้ใช้โซเชียลมีเดียการวิจัยนี้เตือนเราว่าเรามีส่วนร่วมออนไลน์ (ไม่ใช่แค่สิ่งที่เราพูด) กำหนดตัวตนดิจิทัลของเราและมีอิทธิพลต่อผู้อื่น

ในขณะที่พื้นที่ออนไลน์ยังคงรับมือกับการจัดการการล่วงละเมิดและโพลาไรซ์วิธีการที่พิจารณารูปแบบพฤติกรรมและการวิเคราะห์เนื้อหารวมถึงการวิเคราะห์เนื้อหาอาจให้โซลูชั่นที่มีประสิทธิภาพมากขึ้นสำหรับการส่งเสริมชุมชนออนไลน์ที่มีสุขภาพดี

บทความนี้ถูกตีพิมพ์ซ้ำจากการสนทนาภายใต้ใบอนุญาตการแบ่งปันความคิดสร้างสรรค์ อ่านบทความต้นฉบับ