1984 - จอร์จ ออร์เวลล์ กับ ทุนนิยมตรวจตรา (ตอนที่ 1)

จอร์จ ออร์เวลล์ ผู้ประพันธ์นิยายดิสโทเปียอมตะ 1984 ได้สถาปนาอำนาจสูงสุดในนาม พี่เบิ้ม (Big brother) หวังกระตุ้นให้เราตระหนักถึงอันตรายของระบอบเผด็จการ (Totalitarianism) ซึ่งครอบงำปัจเจกชนผ่านทางประวัติศาสตร์และความกลัว ออร์เวลล์สร้างพี่เบิ้มขึ้นมาเพื่อวิพากษ์การปกครองโดยนาซีกับโซเวียต และยังถูกใช้เป็นสัญลักษณ์เปรียบเทียบกับระบอบเผด็จการในอีกหลายประเทศกระทั่งในยุคปัจจุบัน



จอร์จ ออร์เวลล์ (George Orwell) ผู้เขียน หนึ่ง-เก้า-แปด-สี่ (1984)


ทว่าสิ่งหนึ่งที่ออร์เวลล์เข้าใจผิดอย่างมหันต์คือ อำนาจสูงสุดที่สามารถครอบงำเสรีภาพของปัจเจกชนในศตวรรษที่ 21 หาใช่อำนาจทางการเมืองของพี่เบิ้มดังที่ออร์เวลล์จินตนาการเอาไว้ ‘บิ๊กอาเธอร์’ (Big Other) หรืออำนาจครอบงำชนิดใหม่ผ่านทางโครงข่ายข้อมูลดิจิทอลต่างหากที่กำลังตรวจตรา ชักจูง และครอบงำ โดยที่พวกเราไม่เคยรู้ตัว

ขณะที่พี่เบิ้มอาศัยความรุนแรงและความกลัวครอบงำปัจเจกผู้ใฝ่หาเสรีภาพด้วยกลไกขนาดใหญ่ของรัฐ ในทางตรงข้าม ‘บิ๊กอาเธอร์’ เป็นเพียงระบบดิจิทอลไร้ตัวตน แต่สามารถตรวจตราและบงการพฤติกรรมของเรา โดยที่กฎหมายในปัจจุบันยังไม่สามารถแตะต้องมันได้ อำนาจชนิดใหม่แห่งศตวรรษที่ 21 นี้ไม่ต้องการครอบครองร่างกายของเราผ่านทางความรุนแรงและความกลัวอย่างพี่เบิ้ม อำนาจชนิดนี้ไม่ต้องการทำลายพวกเรา เพราะมันแค่ต้องการให้เราเป็นเครื่องจักร ทำตามโปรแกรมของมันโดยปราศจากการตระหนักรู้เท่านั้น อำนาจนี้ไม่สนว่าเราจะคิด จะรู้สึก หรือจะทำอะไร ตราบใดที่มันยังสามารถตรวจสอบได้ว่าเรายังคิดหรือรู้สึกผ่านทางหูและตานับล้านของ ‘บิ๊กอาเธอร์’ ที่สามารถตรวจจับ คำนวณ และออกคำสั่งได้



ซูบอฟฟ์ (Shoshana Zuboff) นักจิตวิทยาสังคมประจำวิทยาลัยธุรกิจ มหาวิทยาลัยฮาเวิร์ด เรียกอำนาจของ ‘บิ๊กอาเธอร์’ ว่า อำนาจแห่งนักตรวจจับ (Instrumentarian Power) ซึ่งทำงานภายใต้ระบบทุนนิยมตรวจตรา (Surveillance Capitalism)

ทุนนิยมตรวจตราไม่เพียงแต่เข้ายึดครองเสรีภาพในระบบเศรษฐกิจเท่านั้น แต่ยังสามารถคุกคามกระทั่งเสรีภาพทางการเมืองในระบอบประชาธิปไตยด้วย ตัวแทนของระบบทุนนิยมตรวจตรานี้หาใช่ใครอื่นไกล หากแต่เป็น กูเกิล เฟสบุ๊ค อเมซอน และไมโครซอฟต์ ยักษ์ใหญ่ในวงการดิจิทอลที่เราคุ้นเคยในชีวิตประจำวันนั่นเอง

ระบบทุนนิยมตรวจตรานำโดยกูเกิล อ้างสิทธิครอบครองประสบการณ์ของมนุษย์ ในฐานะของวัตถุดิบได้เปล่า เพื่อใช้เปลี่ยนถ่ายสู่ข้อมูลเชิงพฤติกรรม (Behavioral data) แม้ว่าข้อมูลจำนวนหนึ่งจะถูกใช้เพื่อพัฒนาบริการทางดิจิทอล แต่ข้อมูลส่วนที่เหลือจำนวนมากจะถูกใช้งานในฐานะ ‘ส่วนเกินเชิงพฤติกรรม’ (Behavioral surplus) ป้อนเข้าสู่กระบวนการผลิตแบบใหม่ที่รู้จักในนามเครื่องจักรเลืองปัญญา (Machine Intelligence) สังเคราะห์กลายเป็นผลิตภัณฑ์ทำนายผล (Prediction product) ซึ่งคาดเดาว่าตอนนี้เราจะทำอะไร ตลอดจนหลังจากตอนนี้ด้วย

ณ ปลายของกระบวนการผลิตแบบใหม่นี้ ผลิตภัณฑ์ทำนายผลจะถูกซื้อขายในตลาดทำนายผลเชิงพฤติกรรม ซึ่งซูบอฟฟ์เรียกว่า ‘ตลาดซื้อขายพฤติกรรมล่วงหน้า’ (Behavioral futures market) ซึ่งนายทุนในระบบทุนนิยมตรวจตราสามารถกอบโกยความมั่งคั่งจากกระบวนการซื้อขายนี้จากบริษัทคู่ค้าจำนวนมหาศาลที่หวังจะเดิมพันกับพฤติกรรมในอนาคตของพวกเรา

ขณะที่เรากำลังใช้ชีวิตอย่างสะดวกสบายจากบริการสืบค้นสารพัดสิ่งจากกูเกิล สืบเสาะเรื่องราวของคนรู้จักผ่าน เฟสบุ๊ค และซื้อของผ่านทางอี-คอมเมิร์ซสารพัดรูปแบบโลกออนไลน์อย่างอิสรเสรี แต่ที่จริงแล้ว เรากำลังถูกจับตา ขูดรีด และครอบงำพฤติกรรม ภายใต้ระบบการผลิตของเหล่านายทุนตรวจตราโดยไม่รู้ตัว เพราะการที่เราอนุญาตให้บริษัทเหล่านี้เข้าถึงข้อมูลส่วนตัว แลกกับการบริการที่แสนสะดวกสบายในชีวิตโดยไม่เสียค่าบริการนั้น เรา(อาจ)ไม่เคยตระหนักถึงเบื้องหลังของการบริการเพื่อหวังขูดรีดข้อมูลเชิงพฤติกรรมเหล่านี้เลยแม้แต่น้อย ขณะพวกมันเรียนรู้ข้อมูลเกี่ยวกับเราอย่างมหาศาลจากข้อมูลขนาดใหญ่ (Big data) ที่สังเคราะห์ขึ้นจากเรา แต่เรากลับไม่รู้ถึงกลไกการทำงานพวกมันเลย


กฤตพล วิภาวีกุล ผู้เขียน
นักศึกษาปริญญาเอก Graduate School of Asia-Pacific Studies, Waseda University
=====

คลิกสั่งซื้อ หนึ่ง-เก้า-แปด-สี่ (1984) ฉบับครบรอบ 72 ปี

ครบชุดการออกแบบ - 4 ปก


=====

คลิกอ่านต่อ ตอนที่ 2 (จบ)

=====

รายการอ้างอิง

- Shoshana Zuboff (2019) The Age of Surveillance CapitalismShoshana Zuboff on 'surveillance capitalism' and how tech companies are always watching us (https://www.youtube.com/watch?v=QL4bz3QXWEo)

- Cathy O’Neil Weapons of Math Destruction Summary and ReviewTime The Surveillance Threat Is Not What Orwell Image (time.com/5602363/george-orwell-1984-anniversary-surveillance-capitalism)

ขอขอบคุณ อรรถสิทธิ์ สิทธิดำรง ผู้แนะนำหนังสือ The Age of Surveillance Capitalism