Alexa ไม่ได้ดักฟังเรา แต่กลายเป็นพนักงาน Amazon

ข่าวสุดช็อคของวงการเทคโนโลยีในวันนี้คงต้องยกให้กับเรื่องของ Amazon ที่ถูกสำนักข่าวบลูมเบิร์กออกมาเปิดโปงว่าเบื้องหลังความฉลาดของ Alexa ผู้ช่วยส่วนตัวอัจฉริยะของ Amazon นั้นมีทีมงานคอยช่วยฟังและตรวจทานคำสั่งเสียงของผู้ใช้งาน

สำนักข่าวบลูมเบิร์กได้เปิดเผยรายงานการสืบสวนเกี่ยวกับกรณีดังกล่าว พบว่าวิธีที่ดีที่สุดในการพัฒนา Alexa ก็คือ ให้มนุษย์ฟังเสียงของผู้ใช้งานที่ถูกอัดไว้นั่นเอง แม้ว่าบริษัทระบุถึงประเด็นนี้ในข้อตกลงและเงื่อนไขการใช้งานผลิตภัณฑ์และบริการ (Terms & Conditions) แต่มีน้อยคนที่จะอ่าน (หรือแม้แต่อ่านจนจบทั้งหมด) ที่สำคัญ Amazon เองก็ไม่ค่อยให้ความสำคัญกับการชี้แจงข้อเท็จจริงว่าใครก็ตามที่มี Alexa (ซึ่งอยู่ในลำโพงอัจฉริยะ Echo ทุกตัว) ก็เท่ากับว่าพวกเขามีกล้องและไมโครโฟนติดอยู่ในบ้านด้วย ซึ่งรวมๆ แล้วไม่ต่ำกว่า 10 ล้านครัวเรือนทั่วโลก

นั่นหมายความว่าไม่ได้มีแค่ Alexa ที่คอยฟังสิ่งที่เราพูด แต่รวมไปถึงพนักงานบริษัทอีกหลายพันคนที่คอยฟัง แม้แต่ช่วยเลือกให้ด้วยว่ามันควรตอบกลับอย่างไร

ทำไมต้องใช้คนเข้ามาช่วย Alexa

Bloomberg เปิดเผยว่าบริษัท Amazon ได้จ้างพนักงานหลายพันคนจากทั่วทุกมุมโลกมาช่วยกันพัฒนา Alexa ให้มันทำงานได้อย่างมีประสิทธิภาพมากที่สุด โดยให้ฟังคลิปเสียงที่ถูกบันทึกไว้ เพื่อวิเคราะห์และติด label ว่าเสียงเหล่านั้นพูดถึงอะไร แล้วส่งฟีดแบ็กกลับไปยังซอฟต์แวร์ เพื่อให้ Alexa เข้าใจคำสั่งของผู้ใช้ได้ดีกว่าเดิม ขั้นตอนนี้เรียกว่า Alexa Voice Review Process หรือที่เรียกกันว่า Data Annotation

จริงอยู่ที่ Alexa เรียนรู้จากข้อมูลที่ผู้ใช้ทั่วโลกป้อนให้กับมัน ยิ่งข้อมูลเหล่านั้นถูกวิเคราะห์และจัดหมวดหมู่ได้ง่าย มันก็จะยิ่งฉลาดและเข้าใจผู้ใช้มากขึ้นเท่านั้น แต่ Amazon ชี้ว่าในบางกรณีก็จำเป็นต้องใช้คนเข้ามาช่วยใส่คำตอบหรือติด label ให้มันเข้าใจและโต้ตอบได้แม่นยำมากขึ้น เช่น เวลาผู้ใช้งานพูดภาษาถิ่น หรือคำสแลง Alexa ก็อาจได้ยินและเข้าใจคลาดเคลื่อนไปบ้าง

พนักงานต้องทำอะไรบ้าง

แหล่งข่าวของบลูมเบิร์ก เปิดเผยว่า มีทั้งพนักงานสัญญาจ้าง กับพนักงานประจำ จากเมืองต่างๆ ทั่วโลก ตั้งแต่บอสตัน คอสตาริกา ไล่ไปจนถึงอินเดีย และโรมาเนีย ซึ่งทุกคนต้องเซ็นสัญญาเพื่อปกปิดเป็นความลับ

นอกจากการทำงาน 9 ชั่วโมงต่อวัน หน้าที่หลักของทีมงานก็คือ คอยฟังและวิเคราะห์คลิปเสียงไม่ต่ำกว่า 1,000 คลิปต่อการเข้ากะ 1 ครั้ง เพื่อให้ Alexa ทำงานได้ดี ไม่ผิดพลาด หากเกิดปัญหา เช่น เจอคลิปเสียงภาษาถิ่นที่ฟังยากๆ พนักงานก็จะส่งคลิปไฟล์เข้าไปปรึกษากันในกรุ๊ปแชทแบบปิด

ที่น่ากังวลก็คือ คนที่ฟังคลิปเสียงเหล่านี้ มีโอกาสรู้ได้ว่าเจ้าของเสียงเป็นใคร เพราะผู้ใช้อาจพูดถึงข้อมูลเกี่ยวกับตัวเองหรือเรื่องราวในชีวิต ไม่มีใครรู้ว่าคลิปเสียงเหล่านี้จะถูกเก็บไว้นานแค่ไหน เคยมีบุคคลที่สามขโมยไป หรือเคยมีพนักงานเอาไปใช้แบบผิดๆ หรือเปล่า

บลูมเบิร์ก ยังได้ยกตัวอย่างไว้ในรายงานว่า มีพนักงานเคยเจอคลิปเสียงที่อาจเป็นการทำร้ายร่างกายคุกคามทางเพศ หรือการกระทำบางอย่างที่เข้าข่ายอาชญากรรม ซึ่งก็มีเคสที่ Amazon นำไปดำเนินคดีตามกฎหมาย นอกจากนี้ยังพบว่ามีพนักงานบางรายนำคลิปเสียงบางส่วนไปแชร์คุยเล่นกับเพื่อนร่วมงาน เพราะเห็นว่าตลกหรือไม่ก็เป็นเรื่องน่าอับอาย

Amazon โต้กลับอย่างไร

อย่างไรก็ตาม Amazon ออกแถลงการณ์ชี้แจงว่าบริษัทเพียงแค่นำคลิปเสียงบางส่วนเล็กๆ มาวิเคราะห์เพื่อพัฒนาประสบการณ์ของลูกค้าให้ดีขึ้นเท่านั้น ซึ่งข้อมูลเหล่านี้ช่วยให้เราพัฒนาระบบให้มีความสามารถทางด้าน NLP และการรู้จำเสียง (Speech Recognition) พร้อมอ้างว่าบริษัทมีมาตรการรักษาความปลอดภัยและนโยบายที่รัดกุมในการป้องกันการนำระบบไปใช้ในทางที่ผิด พนักงานไม่ได้รับอนุญาตให้เข้าถึงข้อมูลหรือรับรู้ตัวตนของผู้ที่ออกคำสั่งผ่าน Alexa ทุกข้อมูลจะถูกเก็บเป็นความลับสุดยอด ภายใต้ระบบการยืนยันตัวตนแบบหลายชั้น นอกจากนี้ยังมีแผนว่าจะยกเลิกขั้นตอนการตรวจสอบโดยพนักงานในท้ายที่สุด

แต่ Amazon จะทำได้อย่างที่ว่าไว้หรือไม่ เพราะก่อนหน้านี้บริษัทก็เคยทำพลาดหลายครั้งหลายหน เช่น ปีที่แล้ว Alexa เคยส่งคลิปเสียงบันทึกบทสนทนาส่วนตัวของสามี-ภรรยาคู่หนึ่งไปยังเพื่อนร่วมงานของสามี ในเดือนธันวาคมปีที่ผ่านมาก็มีชายคนหนึ่งในเยอรมนีคนหนึ่งร้องขอข้อมูลตัวเองจาก Amazon ตามหลักกฎหมายคุ้มครองส่วนบุคคล GDPR แต่กลับกลายเป็นว่าเขาได้รับคลิปเสียงจำนวน 1,700 คลิปมาแทน แม้ว่าเขาจะไม่ได้ใช้อุปกรณ์ที่มี Alexa เลยก็ตาม

นี่อาจเป็นอีกราคาที่ผู้ใช้งานต้องจ่ายเพื่อแลกกับประสบการณ์การใช้งานที่ดีที่สุด ไม่ว่าจะยินยอมหรือไม่ก็ตาม หรือไม่เราอาจต้องคิดทบทวนกันจริงๆ จังๆ แล้วว่าการเปิดเผยข้อมูลบางอย่างนี้ เป็นราคาที่คุ้มค่ากับความสะดวกที่ได้หรือไม่

ที่มา:

https://www.bloomberg.com/news/articles/2019-04-10/is-anyone-listening-to-you-on-alexa-a-global-team-reviews-audio

https://www.theverge.com/2019/4/10/18305378/amazon-alexa-ai-voice-assistant-annotation-listen-private-recordings

Comments