ปีศาจหลังพวงมาลัย

ไถฟีดเลื่อนข่าว เอไอจีนผงาด! DeepSeek ทุบหุ้นเทคร่วงหนัก มันเป็นจังหวะรอสัญญาณไฟ แล้วค่อย ๆ “แตะเบรก” มือซ้ายปัดขวาหา Spotify บรรเลงเพลง Idea 10 ของ Gibran AIcocer นักแต่งเพลงวัย 21 จากยูคาทาน เม็กซิโก จริง ๆ เขาเริ่มแต่งเพลงมาตั้งแต่อายุ 12 ปี แต่ Idea 10 เป็นต้นฉบับเพลงแรกในอีกหลาย ๆ ‘Ideas’ ของเขา 

อีกครั้ง, ฉันกดปุ่ม Re-center ให้จีพีเอสนำทาง บางจังหวะก็ตะบี้ตะบันเหยียบเร่งไปบนทางด่วนดาวคะนอง สิ้นสุดปลายทางร้านตัดแว่นตาที่อยู่ถัดไปจากโรงกลึง ลึกเข้าไปในซอยกลันตันทั้งที่เป็นครั้งที่สองในรอบสัปดาห์ แต่กลับมอบอำนาจนั้นให้กับจีพีเอสมากกว่าความจำอันแสนสั้น

อีกครั้ง, ขยี้ตา เอ้า! ทางตัน May Be ของ Yiruma ก็มาในเวลาคับขัน

 “แคร่ก แคร่ก” ปีศาจหลังพวงมาลัยลงจากรถ ขยับแผงกั้น หันรีหันขวางเราถูกล้อมด้วยกองขี้หมาซะแล้ว

“ซ้ายแล้วก็เลี้ยวขวา” ลุงชี้ไปโน้น

ในสถานการณ์ที่แย่ก็นับว่า ยังมีปากที่ยังดี เอาล่ะตอนนี้ “ทาง” น่าจะอยู่ที่ “ปาก” บ่แม่นกูเกิลแมปแล้วสู นับประสาอะไรกับระบบค้นหาเพลงของสปอติฟายไม่เคยรับปากว่าจะไล่ตามหาวงดนตรีวงเดียวบนโลกที่ชะตากำหนดมาให้ลงตัวกับรสนิยมและอารมณ์ของคุณ อัลกอริทึมแนะนำเหล่านี้เพียงแค่มอบเพลงที่ดีพอจะรับประกันว่าคุณหรือฉันจะไม่ผิดหวังเท่านั้น ฉันก็แค่ต้องการเพลงโดนใจในเวลาที่ใช่ เพื่อให้รู้สึกถึงพรหมลิขิตบ้างนาน ๆ เพลง แต่ระบบก็ไม่ได้แม่นยำเสมอไป

เหตุการณ์วันนั้นฉันมั่นใจว่าโชคดีกว่า โรเบิร์ต โจนส์ ที่สัญญาณเตือนเชื้อเพลิงในรถบีเอ็มดับเบิลยู มีเวลาให้เขาขับหาปั้มน้ำมันได้อีก 7 ไมล์ และต้องขอบคุณจีพีเอสที่ดูเหมือนจะหาทางลัดให้ มันนำทางให้ขับไปตามทางคดเคี้ยวแคบ ๆ ข้างหุบเหว โรเบิร์ตก็ทำตามคำแนะนำของระบบโดยไม่อิดออด แต่ยิ่งขับ ถนนก็ยิ่งแคบและชันขึ้นเรื่อย ๆ หลังขับไปได้สองสามไมล์ ถนนก็กลายเป็นทางดินที่ดูเหมือนจะเป็นทางให้ม้าวิ่งผ่านซะมากกว่า นับประสาอะไรก็รถยนต์ เขารอดจากหุบเหวเพียงร้อยฟุตอย่างเฉียดฉิว “มันยืนยันว่าทางนั้นเป็นถนน” เขาให้สัมภาษณ์กับหนังสือพิมพ์หลังเหตุการณ์นั้น “ผมไม่คิดเลยว่ามันจะพาผมเกือบตกหน้าผา”

‘ผู้ควบคุม’ อันพร่าเลือน มนุษย์เงินเดือน ‘ยินดีจ่าย’

อัลกอริทึมอาจเป็นทางลัดที่เราเลือกโดยไม่ต้องคิดอะไรมากมาย ทันทีที่ฉันใช้ DEEP AI ช่วย Generate ภาพรถหรูขับไปบนเนินเขาสูงในวันที่สภาพอากาศไม่เป็นใจ เบื้องล่างคือหุบเหวลึก มันกลับให้มุมมองดั่งโลกในเทพนิยาย ปราศจากคนขับไม่เหมือนกับหายนะที่ โรเบิร์ต โจนส์ ประสบพบเจอ และฉันก็มักจะเป็นคนนั้นที่เลือกร้านตัดแว่นในหน้าถัดไปเสมอเหมือนกับมุกตลกที่รู้กันดีว่า สถานที่ซ่อนศพที่ดีสุดคือ หน้าสองของกูเกิล เรามักประหลาดใจกับผลลัพธ์แต่ละอย่างของมัน นั่นก็เพราะการไว้ใจอัลกอริทึมก็เป็นคนละเรื่องกับการเชื่อถืออัลกอริทึมโดยปราศจากความเข้าใจ ฮานนาห์ ฟราย ผู้เขียนหนังสือ Hello World ให้เหตุผลที่น่าฟังทั้งยังซ่อนวิธีคิดที่อยู่เบื้องหลังของเอไอ แม้แต่ฉันก็ยังพลิกไปหน้าสารบัญ “อำนาจ” อยู่บ่อยครั้ง โดยปราศจากคำตอบว่า ฉันต้องเลือกข้างหรือประนีประนอมกับเธอดี

อ่านจบ เธอกลับไม่ได้ยัดเยียดการมองโลกของอัลกอริทึมให้เป็น ขาวหรือดำ, ผู้แจ้งหรือโง่เขลา หากแต่พาเราเข้าหลังบ้านของเอไอ เพื่อเรียนรู้ข้อผิดพลาดและตั้งคำถามกับอัลกอริทึมรอบตัวมากขึ้น ที่สำคัญคือทำให้เราในฐานะผู้อ่านเห็นพ้องว่า ยกอัลกอริทึมออกจากผู้ควบคุมสักทีเถอะ! นั่นคือวิธีเดียวที่จะตัดสินใจว่ามันคู่ควรกับอำนาจหรือไม่ โชคร้ายที่เราไม่มีสิทธิมีเสียงเรื่องอำนาจและขอบเขตของอัลกอริทึมรอบตัวเลยสักนิด

เธอท้าให้เซิร์ชภาพ “Professor of Mathematics” ฉันปัดเลื่อนไปทีละหน้าอย่างใจเย็น

อีกครั้ง, ปรากฏภาพของชายกลางคนผิวขาวยืนอยู่หน้ากระดานดำเปรอะชอล์กกับสแควร์รูตมหัศจรรย์ ผลการค้นหาสิ้นสุดปรากฏภาพของผู้หญิงเพียงภาพเดียวเท่านั้นจาก 20 ภาพ ไม่ใช่แค่คุณ หรือฉันที่สงสัย เธอเองก็ประหลาดใจกับอัลกอริทึมที่สะท้อนโลกอีกใบของศาสตราจารย์ด้านคณิตศาสตร์เป็นผู้ชายถึง 94% แต่ไม่ว่าผลลัพธ์จะแม่นยำขนาดไหน คุณก็อาจจะแย้งได้ว่าการใช้อัลกอริทึมเป็นกระจกสะท้อน “โลก” นั้นอาจไม่เป็น “ความจริง” เสมอไป เมื่อฉันป้อนคำสั่ง (Prompt) Deep AI ให้มันครีเอตภาพศาสตราจารย์ด้านคณิตศาสตร์ถึงสามหนแล้วผลลัพธ์ก็ไม่ต่างจากกูเกิลมันแฝงเร้นอคติคนขาวและชายเป็นใหญ่ไว้อย่างแนบเนียน

จะดีกว่านี้แน่! ถ้าวันนึงกูเกิลเลือกปรับอัลกอริทึมให้จัดลำดับความสำคัญกับรูปศาสตราจารย์หญิง หรือศาสตราจารย์ผิวสีเหนือรูปอื่นได้ เพื่อสะท้อนสังคมที่เราคาดหวังแทนสังคมอคติที่เป็นอยู่ได้ หรือมันอาจเลวร้ายลงไปอีกถ้าอัลกอริทึมควบคุมและตัดสินอนาคตของเรามากขึ้นเรื่อย ๆ หนังสือเล่มนี้จึงเป็นเหมือนการย้ำเตือนชั่วขณะหนึ่งระหว่างบทสนทนาของ AI กับมนุษย์ วินาทีที่ขอบเขตของผู้ควบคุมกับผู้ถูกควบคุมพร่าเลือน แต่ยังไงล่ะ! เรากลับมอบอำนาจให้อัลกอริทึมด้วยความเต็มใจและยินดีที่จะจ่าย!

“ผมให้ AI เขียนวิทยานิพนธ์มันก็ไม่เลวนะ”

“พี่ลองถาม DeepSeek เรื่องประชาธิปไตยดูดิ”

“อะไรก็ง่าย แค่จ่ายตังค์เพิ่ม”

รู้ตัวอีกที บิลเดือนนี้แซงหน้าค่าตั๋วเครื่องบิน CNX – DMK ไปแล้ว

คณิตศาสตร์มหัศจรรย์หนึ่งในล้านอาจเป็นคุณ

ระหว่างที่ สตีฟ เทลลีย์ นอนหลับอยู่ในบ้านที่เซาท์เดนเวอร์ เขาได้ยินเสียงเคาะประตู ทันทีที่เขาเปิด ชายอีกคนกล่าวขอโทษเพราะบังเอิญขับรถชนรถของเขาที่จอดไว้หน้าบ้าน ชายแปลกหน้าขอให้เทลลีย์เดินออกมาดูรอยชน เขาก้มดูร่องรอยความเสียหายฝั่งประตูคนขับ

ระเบิดแสงก็ปะทุขึ้น! ชายสามคนในชุดแจ็กเก็ตสีดำสวมหมวกต่อยเทลลีย์ร่วงลงไปกองกับพื้น คนหนึ่งยืนเหยียบหน้าเขา อีกคนรั้งแขนเขาไว้ ขณะที่อีกคนทุบเขาด้วยด้ามปืนซ้ำ ๆ เทลลีย์ได้รับบาดเจ็บสาหัส เลือดคั่งและอวัยวะเพศหัก “ผมไม่รู้ด้วยซ้ำว่าคนเราทำอวัยวะเพศหักได้ด้วย” เขาเล่าให้นักข่าว The Intercept ฟังภายหลัง “ช่วงหนึ่งผมร้องเรียกตำรวจ แล้วก็ได้รู้ว่าเป็นตำรวจนั่นแหละที่กำลังทุบตีผมอยู่”

สตีฟ เทลลีย์ ถูกจับกุมในข้อหาปล้นธนาคารท้องถิ่นสองแห่ง ตอนปล้นแห่งที่สอง ตำรวจนายหนึ่งถูกทำร้าย เทลลีย์คิดว่านั่นเป็นสาเหตุให้เขาถูกปฏิบัติอย่างโหดเหี้ยม

เขาจำได้ว่าตะโกนบอกเจ้าหน้าที่ คุณจับผิดคนแล้ว

ใช่! เทลลีย์ไม่ได้โกหก การจับกุมตัวเขาเป็นผลลัพธ์จากใบหน้าของเขาเหมือนกับโจรตัวจริง แม้เทลลีย์จะมีพยานหลักฐานยืนยันความบริสุทธิ์อย่างแน่นหนา แต่ต้องอาศัยเวลาเกินหนึ่งปีกว่าที่ชื่อของเขาจะพ้นมลทิน เขาสูญเสียทั้งงาน บ้านและสิทธิในการเข้าถึงลูก ๆ ทั้งหมดนี้เป็นผลมาจาก ระบบจดจำใบหน้าในฐานะเครื่องมือระบุตัวตนที่มนุษย์มอบอำนาจนี้ไว้ในมืออัลกอริทึม หนังสือเล่มนี้เขียนถึงเบื้องหลังการทำงานของอัลกอริทึมจดจำใบหน้าไว้สองแบบ คือแบบแรกมันสร้างโมเดลสามมิติของใบหน้าด้วยการผสานชุดสองมิติเข้าด้วยกันหรือสแกนโดยใช้กล้องอินฟราเรดชนิดพิเศษ นี่คือระบบจดจำใบหน้าอย่าง เฟซไอดีของแอปเปิลไอโฟน อัลกอริทึมนี้หาวิธีจัดการปัญหาสีหน้าอารมณ์ และอายุที่แตกต่างกันโดยตีกรอบความสนใจไปยังบริเวณที่มีเนื้อเยื่อ และกระดูกคงตัว เช่น เส้นโค้งของเบ้าตาหรือสันจมูก

แอปเปิลอ้างว่าโอกาสที่ใครสักคนจะบังเอิญปลดล็อกมือถือคุณได้ก็แค่ หนึ่งในล้าน

ไม่ว่าคุณหรือฉัน เราก็ไม่อยากเป็นหนึ่งในล้านแม่นบ่ เพราะอัลกอริทึมก็ถูกหลอกได้โดยคู่แฝด พี่น้อง และลูก ๆกับโทรศัพท์ของพ่อแม่ก็มีถมเถ และมันทำงานต่างกันออกไปจากอัลกอริทึมจดจำใบหน้าแบบที่สองที่อาศัยเฉพาะภาพสองมิติและใช้วิธีการทางสถิติ มันไม่สนใจเค้าโครงใบหน้าที่คุณหรือฉันอาจคิดว่าเป็นลักษณะเด่น แต่มันจะสร้างคำบรรยายทางสถิติให้กับรูปแบบแสงและเงาในภาพแทน อัลกอริทึมประเภทนี้เพิ่งผ่านจุดก้าวกระโดดด้านความแม่นยำและประสิทธิภาพ แต่มันก็มาพร้อมกับราคาที่ต้องจ่าย และคุณอาจหลอกมันได้ด้วยการสวมแว่นประหลาดที่พิมพ์ลวดลายก่อกวน

คุณก็สามารถเป็น มิลลา โจโววิช ไม่ใช่เรื่องเกินจริงแต่อย่างใด

ทันทีที่ชายคนนึงทะลึ่งสวมแว่นประหลาด ๆ มันก็หลอกระบบสำเร็จว่าที่แท้เทียมเขาคือ มิลลา โจโววิช ตัวปลอมอย่างน่าเหลือเชื่อ ปัญหามีอยู่ว่า ยิ่งมีใบหน้าให้อัลกอริทึมค้นหามากเท่าไร โอกาสที่มันจะพบสองใบหน้าที่เหมือนกันก็ยิ่งมากขึ้นเท่านั้น ถ้าคุณใช้อัลกอริทึมเดียวกันค้นหาใบหน้าจากชุดข้อมูลที่มีปริมาณมากขึ้น ความแม่นยำก็จะลดลง เรื่องนี้คล้ายกับการให้เธอจับคู่บัตรประชาชนกับคนหมื่นคน และเมื่อเธอได้คะแนนเต็มก็อ้างว่า ตัวเองสามารถระบุใบหน้าได้ 100% แต่ถ้าปล่อยให้เธอไปอยู่ใจกลางเมืองนิวยอร์กเพื่อระบุตัวอาชญากร ก็ย่อมไม่น่าแปลกใจเลยที่ความแม่นยำจะตกลงทันที

แม้หนังสือเล่มนี้ไม่จบลงที่เราต้องเลือกข้าง อัลกอริทึมหรือมนุษย์ เพราะเธอในฐานะนักคณิตศาสตร์ยังมองหาความสมดุล แม้เราจะห่างไกลจากความแม่นยำอันสมบูรณ์แบบของฐานข้อมูล 411 ล้านใบหน้า ถ้าเราโยนระบบคณิตศาสตร์ที่มีอคติแฝงฝัง ทิ้งไปซะ เพราะรู้อยู่แก่ใจว่ายิ่งทำแบบนั้นเรากำลังตั้งมาตรฐานให้อัลกอริทึมสูงกว่าระบบของมนุษย์ และกลับไปให้ความสำคัญกับเหยื่อของอาชญากรรมที่ป้องกันได้มากกว่าเหยื่อของอัลกอริทึม

อะไรสำคัญที่สุด ระหว่างลดอาชญากรรมหรือการปกป้องเสรีภาพของผู้บริสุทธิ์เหนือสิ่งอื่นใด เธอตั้งคำถามได้น่าคิด เราจะเสียสละอย่างหนึ่งเพื่ออีกอย่างหนึ่งได้แค่ไหน? อาจเป็นไปได้ว่า เราควรตัดสินใจให้อัลกอริทึมมีข้อจำกัดในการเข้าถึงข้อมูลบางอย่าง และบางเรื่องก็ไม่ควรถูกนำมาคำนวณด้วยซ้ำ

หรือบางที ไม่ใช่อัลกอริทึมที่พยายามไม่มากพอหรอก

แต่ใครบางคนที่อยู่นอกเหนือความเข้าใจของเครื่องจักรนี้ที่ไร้หัวใจ

Playread: Hello World: How to be Human in the Age of the Machine
ผู้เขียน: Hannah Fry
ผู้แปล: ทีปกร วุฒิพิทยามงคล
จัดพิมพ์: Bookscape

PlayRead: คอลัมน์รีวิวหนังสือประจำ Decode.plus เมื่อกองบรรณาธิการขอ add หนังสือ (ที่อยากอ่าน) ไว้ในเพลย์ลิสต์ พบกับหนังสือหลากหลายสไตล์ หลากหลายวิธีการเล่าเรื่องที่เชื่อมร้อยกับชีวิตและสังคม แวะมาหาอ่านกันได้ทุกเย็นวันพฤหัสบดี

Author

ภัทราภรณ์ ศรีทองแท้
นักข่าว นักจับปรากฏการณ์ทางสังคม ปรนเปรอชีวิตด้วยความจริง ยกให้พระเจ้าและความไม่บังเอิญเป็นครู