รู้จักกล้องอัจฉริยะจีน: จับอารมณ์ความรู้สึกได้ ดูออกว่าฝืนยิ้ม ใช้ในโรงเรียนและในคุก

พาไปทำความรู้จักระบบกล้องที่สามารถตรวจจับการแสดงออกทางสีหน้าที่พัฒนาโดยบริษัทสัญชาติจีน Taigusys ใช้ AI ในการตรวจจับและรายงานว่าบุคคลที่ถูกจับตามองอยู่กำลังรู้สึกอะไรบ้าง

ด้านของผู้เชี่ยวชาญแย้งว่าเทคโนโลยีดังกล่าวมักจะมีความแม่นยำต่ำและริดรอนสิทธิมนุษยชนอีกด้วย

เหนือกว่ากล้องวงจรปิด ก็คือกล้องที่รู้ว่าเราคิดอะไร มีอารมณ์แบบไหน 

กล้องที่พัฒนาโดย Taigusys ถูกออกแบบมาสำหรับการเฝ้าระวังอารมณ์ของคนกลุ่มมาก อารมณ์ด้านบวก เช่น ความสุข ความประหลาดใจ ความซาบซึ้ง หรือสภาวะมีสมาธิที่นับเป็นอารมณ์เป็นกลาง ก็จะทำให้โปรแกรมจัดเราไปอยู่ในหมวดหมู่ที่ “ปกติ”

ทว่า อารมณ์ด้านลบ เช่น ความเศร้า ความขยะแขยง ความโกรธ ความงงงวยและอื่นๆ จะถูกนับและรายงานหากบุคลลนั้นมีอารมณ์ด้านลบที่สูงเกินไป

Taigusys อ้างว่าอัลกอริทึม AI ของตนเองสามารถตรวจจับได้แม้กระทั่ง “รอยยิ้มปลอมๆ” (Fake Smile)

ในข้อมูลสินค้าของระบบดังกล่าว Taigusys อธิบายว่า “ระบบจะวิเคราะห์การแสดงออกทางสีหน้าและคำนวนโอกาสที่จะเกิดการเผชิญหน้า อาการเครียด ความประหม่าและอื่นๆ ได้ รวมถึงความน่าสงสัยของบุคคลนั้นๆ อีกด้วย”

การใช้งานจริงกับการละเมิดสิทธิมนุษยชน: นักเรียนและนักโทษ

ในด้านของการใช้งาน ระบบของ Taigusys ยังอยู่ในขั้นทดลองใช้ และไม่มีการใช้งานที่แพร่หลายมากนัก ถึงแม้ Huawei, China Mobile, China Unicom และ PetroChina จะเป็นส่วนหนึ่งของลูกค้ารายใหญ่ของ Taigusys ก็ตาม ทางบริษัทไม่ได้ระบุว่าแต่ละบริษัทสั่งซื้อระบบไหนไป

นอกจากการทดลองใช้ในห้องเรียนว่านักเรียนตั้งใจเรียนอยู่หรือไม่ ระบบบของ Taigusys ก็ใช้งานจริงในคุกที่ประเทศจีน

Chen Wei ผู้จัดการทั่วไปของ Taigusys ให้ข้อมูลว่าระบบนี้ถูกติดตั้งอยู่ในคุกและสถานกักกันกว่า 300 ที่ทั่วประเทศจีน

เขาระบุว่าระบบดังกล่าวช่วยให้นักโทษ “ว่านอนสอนง่ายมากขึ้น” ด้วยกล้องกว่า 60,000 ตัว เจ้าหน้าที่สามารถเฝ้าระวังสภาวะของนักโทษได้ตลอด 24 ชั่วโมง

Chen อธิบายว่า “ความรุนแรงและการฆ่าตัวตายเกิดขึ้นบ่อยมากตามสถานที่เหล่านี้ ด้วยความที่เจ้าหน้าที่สมัยนี้เลิกใช้ความรุนแรงกับนักโทษแล้วหันไปห้ามไม่ให้นอนหลับแทน นักโทษบางส่วนจะมีอาการสติแตก (mental breakdown) และพยายามฆ่าตัวตาย ซึ่งระบบของเราช่วยกันไม่ให้เหตุการณ์เหล่านี้เกิดขึ้น”

คำโต้แย้งด้านวิทยาศาสตร์และสิทธิมนุษยชน

Vidushi Marda เจ้าหน้าที่ระดับสูงจากองค์กรปกป้องสิทธิมนุษยชน Article 19 และ Shazeda Ahmed นักศึกษาระดับปริญญาเอกที่ UC Berkeley School of Information ให้ข้อมูลว่านอกจาก Taigusys แล้ว ยังมีอีกถึง 26 บริษัทที่พัฒนาระบบตรวจจับอารมณ์ (emotional recognition) อยู่ ณ ปัจจุบันในประเทศจีน 

Vidushi อธิบายว่าระบบตรวจจับอารมณ์ในตลาดตอนนี้ถูกพัฒนาจากความเชื่อที่ว่า “สีหน้าสัมพันธ์กับอารมณ์ภายในใจ” ซึ่งไม่มีวิจัยทางวิทยาศาสตร์รองรับ ถือเป็นหนึ่งในความเชื่อที่เป็นวิทยาศาสตร์เทียม (pseudoscience)

เธอเสริมว่า “ระบบแบบนี้ริดรอนสิทธิของพนักงานในที่ทำงานโดยตรง ทั้งด้านจริยธรรมและด้านกฎหมาย ถึงจะเป็นบริษัทส่วนบุคคลก็ตาม แต่พนักงานทุกคนต้องได้รับสิทธิส่วนบุคคลและความเชื่อถือ รวมถึงอิสระทางความคิดและการกระทำ”

ศาสตราจารย์ Rob Reich คณะรัฐศาสตร์ที่ Stanford ตั้งคำถามว่า “สังคมที่เฝ้าติดตามอารมณ์ของประชาชน คือสังคมที่จะให้รางวัลคนบางส่วนและทำโทษคนอีกส่วนหนึ่ง อารมณ์สามารถบอกว่าเรากำลังจะก่ออาชญากรรมหรือจะมีประสิทธิภาพในการทำงานต่ำได้จริงหรือ?”

เทคโนโลยียังไม่ดีพอจะตัดสินใคร ไม่ว่าตอนนี้หรือตอนไหนก็ตาม

Desmond Ong ผู้ช่วยศาสตราจารย์คณะ Information Systems and Analytics ที่ National University of Singapore’s School of Computing เชื่อว่าโปรแกรมดังกล่าวอาจจะช่วย “ตรวจจับสถานการณ์ถึงแก่ชีวิต เช่น คนขับรถหรือนักบินที่อ่อนเพลีย เมา หรือสุขภาพจิตใจไม่ดีได้”

ในทางกลับกัน เขาก็เสริมว่าระบบตรวจจับอารมณ์แบบนี้ “อาจจะถูกใช้งานในทางที่ไม่ยุติธรรมหรือไร้มนุษยธรรมเช่นเดียวกัน เช่น การใช้ ‘ความเห็นอกเห็นใจ’ เป็น KPI ของพนักงานคอลเซ็นเตอร์”

Desmond ให้ความเห็นว่าระบบตรวจจับอารมณ์ประเภทนี้ไม่เข้าใจความซับซ้อนของการแสดงออกทางอารมณ์ของมนุษย์ เพราะการรวบรวมอารมณ์ต่างๆ มาสรุปเพียงไม่กี่ประเภทนั้นไม่ตรงกับความเป็นจริง ซึ่งความคิดนี้ถูกสนับสนุนโดยอาจารย์ Sandra Watcher จาก Oxford ว่าอัลกอริทึมของ AI ยังไม่ฉลาดพอที่จะตรวจจับอารมณ์ของมนุษย์ได้จากแค่สีหน้าเพียงอย่างเดียว

“อย่าใช้ อย่าพัฒนา และอย่าสนับสนุนระบบแบบนี้ นอกจากจะไม่มีหลักฐานทางวิทยาศาสตร์รองรับแล้ว ยังจะละเมิดสิทธิมนุษยชนหลายข้อ รวมๆ แล้วมันก็น่าขนลุกอีกด้วย” Desmond ทิ้งท้าย

สรุป

ด้วยเทคโนโลยีที่รุดหน้าขึ้นทุกวัน บางทีสิทธิมนุษยชนก็ถูกมองข้ามโดยเหล่านักพัฒนาที่พยายามแก้ปัญหาให้ลูกค้า แต่ผู้บริโภคทั่วโลกก็ตระหนักถึงความสำคัญของจริยธรรมมากขึ้น ธุรกิจทั้งหลายต้องให้ความสำคัญกับความโปร่งใส การช่วยเหลือสังคมและดูแลพนักงานของตัวเองให้ดี มิเช่นนั้นจะได้รับผลกระทบจากความเห็นของผู้บริโภคได้

ที่มา – Insider

ติดตามข่าวสารจาก Brand Inside ได้จาก Facebook ของเรา