เรื่องเล่าที่ยากจะเข้าใจเกี่ยวกับ เทคโนโลยีและภัยพิบัติทางสังคม ในอีกไม่กี่ปีนี้

เรื่องนี้จะยาวและซับซ้อนและมันยากมากๆในการที่จะทำให้ผู้คนทั่วไปได้เข้าใจมันได้ แต่ก็จำเป็นต้องเขียนจริงๆ ไม่สามารถจะวางเฉยได้ และผมคิดว่าถ้าใครอยากรู้ว่าโลกเรากำลังจะเปลี่ยนแปลงไปเจออะไรในอีกไม่กี่ปีข้างหน้านี้ ก็ถือว่าจำเป็นต้องอ่านครับ

อาจต้องค่อยๆแกะ ค่อยๆถอดความเข้าใจไปทีละส่วน ผมพยายามจะเขียนให้คนที่ไม่ได้อยู่ในสายเทคโนโลยี คนรุ่นแม่ถึงรุ่นหลานของผมได้เข้าใจได้ง่ายที่สุดด้วย แต่พยายามยังไงก็ยังรู้สึกว่ามันยากอยู่ดี

ผมจิตตก หดหู่ หมดกำลังใจ มึนหัวอย่างหนักที่สุดครั้งหนึ่งในชีวิตกับข้อมูลของเรื่องนี้ กว่าจะฟื้นฟูตัวเองให้ดีขึ้นพอที่จะมาเขียนเรื่องนี้ได้ก็หลายวันมาก

ผมจะเริ่มตรงที่ว่า เนื้อหาใจความของมันคือ

"เรากำลังจะไปเจอกับภัยพิบัติด้านสังคมที่รุนแรงที่สุดครั้งหนึ่งของมนุษยชาติในอีกไม่กี่ปีข้างหน้านี้"

ทั้งหมดนี้ไม่ใช่คำทำนายหรือการวิเคราะห์ เป็นข้อเท็จจริงจากกลุ่มคนในระดับชั้นนำในสายเทคโนโลยี ที่ทำ social media หลายๆชนิดให้เราใช้อยู่ คนกลุ่มนี้ได้มองเห็นสิ่งที่ไม่ถูกต้องเกี่ยวกับมุมมองด้านจริยธรรมในสิ่งที่พวกเขามีส่วนสร้างมันขึ้นมา ข้อมูลส่วนใหญ่ถอดความมาจากหนังสารคดีชื่อ Social Dilimma และแม้ว่าในช่วงท้ายของหนังจะบอกถึงวิธีป้องกันมัน แต่ส่วนตัวผมมองไม่เห็นทางออกเลย และคิดว่าเราจะต้องเผชิญกับมันในเร็วๆนี้

ต้นตอของสาเหตุเกิดจากอะไร

เกิดจาก social media ทั้งหลายที่เราใช้อยู่ครับ Facebook Twitter Instagram Youtube Google ฯลฯ

ทำไมมันถึงทำให้เกิดภัยพิบัติขึ้นกับสังคมโลกได้ ในเมื่อเราก็แค่เข้าไปดูเรื่องของเพื่อนๆใน Facebook วันละนิดหน่อย หาคลิปสนุกๆคลิปความรู้บน Youtube ดูบ้าง เข้าไปแชทไลน์คุยกับครอบครัว ไม่ได้ติดโซเชียลอะไรเลย มีแต่ได้ความรู้ ได้มิตรภาพ ได้ประโยชน์จากข่าวสาร ได้เนื้อหาข้อมูลที่ดีจากผู้คน แล้วมันจะทำให้เกิดภัยพิบัติได้อย่างไร

คำตอบแบบสั้นๆคงไม่สามารถทำได้ แต่เราจะเริ่มขั้นแรกจากการทำความเข้าใจในโมเดลธุรกิจพวกนี้ก่อน

ความสนใจของคุณคือสินค้าของเขา

(เราเป็นสินค้าโดยที่ไม่รู้ตัว)

ทุกชนิดของ social media มีหัวใจเดียวกันคือ ต้องการความสนใจของมนุษย์ให้ใช้งานมันให้บ่อยที่สุดและนานที่สุด ซึ่งมันใช้ ความสนใจของเรา ไปเป็นตัวสินค้าขายให้กับลูกค้าของเขา (ลูกค้าคือคนซื้อโฆษณาทั้งหลาย) แนวความคิดหลักมีง่ายๆเท่านี้ในทุก social media

สาเหตุแห่งภัยคุกคามจะเริ่มก้าวแรกกันตรงนี้ "การแข่งขันเพื่อแย่งชิงความสนใจของคุณ"

ผมอยากให้เห็นภาพของเบื้องหลังการทำงาน แกนหลักในการทำงาน social media จะมีอยู่สองส่วนที่สำคัญคือ นักออกแบบเทคโนโลยี (คน) และก็เอไอ (โค้ด)

นักออกแบบเทคโนโลยี

คนกลุ่มนี้คือคนที่เก่งมากด้านจิตวิทยา (เก่ง หมายถึงโคตรเก่ง คือมีคอร์สที่สอนอย่างเข้มข้นในเรื่องนี้) เพื่อทำงานด้านจิตใต้สำนึกของมนุษย์โดยตรง นักออกแบบเทคโนโลยีจะทำงานกับพฤติกรรมและจิตใต้สำนึกของคุณ .. ระบบแจ้งเตือนจะเป็นแบบไหน ปุ่มแบบไหน ใช้คำแบบไหน ที่ทำให้ผู้คนชอบและรู้สึกอยากกลับมาใช้มันมากขึ้น อยู่กับมันนานขึ้น
ทำไมต้องใช้นิ้วโป้งกดตรงนั้น ใช้นิ้วชี้ลากตรงนี้ ล้วนเป็นการวางแผนทางด้านพฤติกรรมที่มาจากการทำงานกับจิตใต้สำนึกของมนุษย์ทั้งหมด

ตัวอย่างที่ชัดเจนเรื่องหนึ่ง คือการออกแบบ การแท็กชื่อในรูปของ Facebook มีใครโดนแท็กแล้วไม่เปิดไปดูบ้างไหม?

เอไอ Artificial Intelligence

Social media จะมีส่วนทำงานสิ่งหนึ่งที่เรียกว่า อัลกอริธึ่ม (โค้ดที่มีความคิดของตัวเอง) และอัลกอริธึ่มที่เก่งมากขึ้น ซับซ้อนมากขึ้น ทำงานได้ในระดับสูงๆก็จะเรียกว่าเอไอ

นึกภาพแบบง่ายก็ให้มองเอไอเป็นโค้ดที่ซ่อนอยู่หลังหน้าจอ Facebook YouTube ที่เราใช้งานอยู่ก็ได้ครับ (ไม่ใช่หุ่นยนต์ที่จับต้องได้)

วิธีที่เอไอทำงานจะมีการใส่เป้าหมายที่ต้องการให้กับมันเข้าไป เช่น ต้องการให้แข่งเกมส์หมากรุก ใส่กติกาเข้าไปให้มันรู้ เมื่อสั่งการไปแล้วมันก็จะเริ่มทำงานด้วยความไม่รู้แบบเริ่มจากศูนย์ สมมุติถ้าลองเอามาแข่งกับเด็กที่อายุน้อยๆ มันก็จะแพ้ตลอด แต่มันจะเรียนรู้ว่าจะดีขึ้นในหน่วยเล็กๆถัดไปต้องทำอย่างไรบ้าง แล้วมันก็ทำซ้ำแบบนั้นไปเรื่อยๆเป็นล้านล้านครั้ง จนมันเริ่มกินเบี้ยได้ หนึ่งตัว สองตัว เขยิบความสามารถขึ้นไปเรื่อยๆจนเริ่มเอาชนะคนเล่นได้บ้าง และขยับขึ้นไปเรื่อยๆอีก จนถึงขั้นสามารถเอาชนะมนุษย์ที่เป็นแชมป์โลกได้

เปลี่ยนจากเกมส์หมากรุกมาเป็นตัวสินค้าที่ธุรกิจเหล่านี้ต้องการนั่นก็คือ "ความสนใจของมนุษย์"
ใส่กติกาให้มันก็คือการใช้งานของคุณกับ social media
ใส่เป้าหมายให้มันไปว่า ทำให้คุณอยู่กับแพลทฟอร์มนั้นให้นานที่สุด กลับมาบ่อยที่สุด
แล้วเอไอก็เริ่มทำงานจากเบี้ยหมากรุกเกมส์แรก..

สิ่งที่น่ากังวลอย่างมากคือ แม้แต่คนที่สร้างมันขึ้นมา พอให้เป้าหมายงานมันออกไปทำแล้ว ก็ไม่มีใครเข้าใจมันได้อีกเลยว่ามันทำงานอย่างไร ใช้วิธีอะไรบ้างเพื่อให้ได้เป้าหมายนั้นมา และไม่สามารถควบคุมวิธีการทำงานของมันได้อีกเลย

เป้าหมายของเอไอคืออะไร คำตอบก็กลับไปเรื่องของ ความสนใจของมนุษย์ เพราะอันนี้คือสินค้าของเขานั่นเอง ทำอย่างไรก็ได้ให้คุณอยู่บนหน้าจอให้ได้นานที่สุดและบ่อยที่สุด และสิ่งที่นักออกแบบเทคโนโลยีและเอไอทำได้ดีคือ การเปลี่ยนพฤติกรรมความสนใจของมนุษย์ครับ

การเสพติด โรคซึมเศร้า และการฆ่าตัวตาย

Social media ทำให้เกิดการก้าวกระโดดแบบสุดขั้วในด้านสังคมของประวัติศาสตร์มนุษย์ เราไม่เคยจำเป็นต้องรู้จักใคร หรือมีปฎิกิริยากับคนอื่นมากขนาดนี้มาก่อน เด็กรุ่นถัดไปจากนี้จะห่วงความคิดของคนอื่นมากกว่าการมองเห็นคุณค่าของตัวเอง ซึ่งก่อนหน้านี้มนุษย์ก็มีเรื่องแบบนี้กันอยู่แล้วในการเกี่ยวข้องกับผู้คนรอบข้าง แต่มันต่างกันที่ปริมาณอันมหาศาลครับ

คนรุ่นใหม่ทั้งโลกได้ถูกปรับพฤติกรรมไปแล้ว

Social media ทำให้ความรู้สึกถึงคุณค่าของตัวเองจะหายไปทีละนิด หลายๆคนทำศัลยกรรมเพื่อให้ตัวเองดูเหมือนรูปเซลฟี่ (ที่แต่งจากแอป) โรคซึมเศร้าเพิ่มขึ้นอย่างมากในคนรุ่นใหม่ ข้อมูลสถิติการฆ่าตัวตายที่สูงขึ้นมากหลังจากโลกมีเทคโนโลยีเหล่านี้ เด็กๆมีทักษะการเผชิญกับปัญหาบนโลกแห่งความเป็นจริงน้อยลง

"เราจัดแสดงภาพชีวิต (บนหน้าจอ) ในเรื่องชีวิตที่ต้องสมบูรณ์แบบ ตามที่ได้รับรู้มา (จากหน้าจอ) เพราะเราจะได้สิ่งตอบแทนเป็นสัญาณระยะสั้นจาก หัวใจ ยอดไลก์ เรานำมันมาปนกับคุณค่า นำมาปนกับความจริง ทั้งที่จริงๆแล้วมันเป็นเรื่องการให้ความนิยมกับตัวเราแบบปลอมๆ เปราะบาง มีระยะเวลาสั้น และยอมรับเถอะว่ามันจะทำให้คุณรู้สึกไร้ค่า ไร้ความหมายมากกว่าก่อนทำมัน มันจะผลักคุณเข้าไปสู่วงจรอุบาทว์ที่คุณจะคิดว่า ฉันต้องทำอะไรต่อ เพราะฉันต้องการความรู้สึกนั้นกลับมาอีก ลองคิดว่ามีคนสองพันล้านคนกำลังรู้สึกแบบนั้น และคนเรามีปฎิกิริยาต่อการรับรู้ของคนอื่นยังไงในตอนนี้ มันเลวร้ายมาก"
Chamath Palihapitiya
Facebook- Former VP of Growth

ทำไมมนุษย์ถึงปรับตัวให้เข้ากับมันไม่ได้

เพราะสมองของมนุษย์ตามมันไม่ทันครับ ด้วยเทคโนโลยีที่มันก้าวกระโดดเป็นล้านล้านเท่าไปแล้วในด้านการประมวลผล ภายในเวลาไม่กี่ปี แบบที่ไม่มีใครเคยคิดถึงได้มาก่อน ในขณะที่สมองของเรายังอยู่ที่เดิมไม่ได้ถูกวิวัฒนาการตาม เทคโนโลยีได้เปลี่ยนวิธีการเชื่อมความสัมพันธ์ระหว่างผู้คนที่มีมาแบบเดิมหลายล้านปี ไปแบบก้าวกระโดดในชั่วพริบตา

อาจจะยังมีคนที่คิดว่าสามารถควบคุมตัวเองได้ เอาชนะการเสพติดมันได้ ไม่ได้สนุกไปกับยอดไลก์ ไม่ชอบโพสท์ ตราบใดที่คุณยังมีตัวตนเปิดใช้แอคเคาท์มันอยู่ ไม่ว่าจะเด็กหรือคนแก่ คุณก็อยู่ในเกมส์นี้ทั้งหมดครับ มันจะรู้จักว่าคุณเป็นคนเก็บตัวไม่ชอบสังคม ชอบเข้าไปแอบส่องดูใครบ้าง หยุดที่รูปไหนนานๆบ้าง ชอบดูคลิปอะไร และมันรู้ว่าคนประเภทเดียวกับคุณ จะมีนิสัยแบบไหน และมีจุดอ่อนที่ตรงไหน

จากความรุนแรงที่ว่ามาทั้งหมดที่จะเกิดกับเด็กๆในยุคถัดไป คนในสายเทคโนโลยีเหล่านี้ ไม่ยอมให้ลูกๆของเขาใช้ social media เลยครับ หมายถึงการห้ามในระดับที่ซีเรียสจริงจัง ถึงแม้ตอนนี้จะมีการกันเรทเนื้อหาแบบ Youtube Kid ที่มี content สำหรับเด็กโดยเฉพาะ แต่คุณต้องไม่ลืมว่าวิธีการทำงานของเอไอเป็นแบบเดียวกันกับที่ใช้เล่นงานความสนใจของผู้ใหญ่ครับ ไม่มีใครอยากให้คนอื่นมาเล่นงานจิตใต้สำนึกของลูกเราแน่นอน

"(ด้านหลังหน้าจอของคุณ) มีวิศวกรในระดับที่เก่งมากๆของโลกพันคน กับซูเปอร์คอมพิวเตอร์ที่เป็นเอไอ เชี่ยวชาญด้านจิตวิทยาของมนุษย์ ฝ่ายนี้มีประวัติข้อมูลของคุณอยู่ทุกอย่าง รู้จักนิสัยจุดอ่อนของคุณทุกอย่าง ในขณะที่คุณไม่รู้จักอีกฝ่ายหนึ่งของจอเลย ซึ่งทั้งสองฝ่ายมีเป้าหมายที่ไม่เหมือนกัน คำถามคือ คุณคิดว่าใครจะชนะ!"
Tristan Harris
Google- Former Design Ethicist
Center for Humane Technology- Co-Founder

การตลาดและทุนนิยมสอดแนม

พฤติกรรมของคุณที่กระทำบนมือถือจะถูกเก็บเป็นข้อมูล (data) ไว้ทุกอย่าง ชอบวีดีโอแบบไหน ชอบอ่านอะไร ชอบไลก์ใคร เดินทางไปไหน ซื้ออะไร ชอบดูรูปใคร นานแค่ไหน ดึกๆชอบทำอะไร ดาต้าจากคนสองพันล้านคน หลั่งไหลเข้าไปเป็นวัตถุดิบให้เอไอใช้ทำงานอย่างไม่มีที่สิ้นสุด พวกเขามีข้อมูลของเรามากยิ่งกว่าที่ใครเคยจะคาดคิดในประวัติศาสตร์มนุษย์

มันจะวิเคราะห์แยกกลุ่มคนแต่ละประเภทแต่ละแบบ แยกออกมาเป็นสินค้าให้ผู้ซื้อโฆษณาได้ประมูลความสนใจของมนุษย์ ถ้าคุณมีเงินที่มากพอ คุณจะซื้อโฆษณาที่ไม่มีความเสี่ยงได้เลย

ทฤษฎีสมคบคิด ข่าวปลอม

มาถึงสิ่งที่น่ากลัวที่สุดอีกอันหนึ่ง ที่สามารถทำให้เกิดความขัดแย้งแบบสุดขั้ว อาจจะเกิดสงครามกลางเมืองในหลายๆประเทศที่ผู้คนมีความขัดแย้งด้านความคิด

ตอนนี้ผมจะเปลี่ยนจากคำว่า ความสนใจของคุณ(คือสินค้า) มาเป็น พฤติกรรมด้านความสนใจของคุณที่ค่อยๆถูกเปลี่ยน(คือสินค้า) และความสนใจที่ค่อยๆถูกเปลี่ยนทีละนิดๆ นี้แหละ มันถูกนำไปสู่ความขัดแย้งทางด้านความเชื่อแบบสุดขั่วได้ด้วยข่าวปลอม

มาถึงตรงนี้เป้าหมายของเอไอมันยังเหมือนเดิมมาตลอดคือ ทำให้คุณอยู่กับมันนานและบ่อยที่สุด หากคุณมีแน้วโน้มว่าจะสนใจหรือจะเชื่อในเรื่องใด และชอบที่จะอยู่กับเนื้อหานั้นนานๆบนหน้าจอ มันจะหามาป้อนให้คุณอย่างไม่อั้น โดยที่มันไม่สามารถรู้ได้เลยว่าอันไหนจริงหรือปลอม ในขณะที่พฤติกรรมของคุณเองจะถูกปรับเปลี่ยนไปทีละนิดๆ จากมีแนวโน้มจะเชื่อกลายเป็นเชื่อแบบสุดโต่งได้เลย

บนทวิตเตอร์ข่าวปลอมสามารถไปได้เร็วกว่าข่าวจริงหกเท่า และด้วยโมเดลทางธุรกิจด้านการดึงความสนใจนี้ ข่าวปลอมทำเงินได้มากกว่าข่าวจริง

คุณจะเริ่มมีอาการแบบนี้ มองคนที่คิดไม่เหมือนกับคุณคือพวกที่ไม่ยอมอ่านข่าว ไม่ยอมรับรู้ ไม่ยอมรับความจริง วิเคราะห์ไม่เป็น ไม่รู้อย่างที่คุณรู้ โง่กว่าคุณ เป็นพวกคนที่ถูกหลอกด้วยทฤษฏีสมคบคิด คุณเริ่มไม่ไว้ใจและเกลียดอีกฝ่าย จนไม่รับฟังกันอีกต่อไป ซึ่ง... อีกฝ่ายหนึ่งก็คิดแบบเดียวกับคุณแบบนี้เป๊ะเลย

คนเป็นพันล้านคนกำลังถูกเล่นงานจุดอ่อนแบบนี้พร้อมๆกัน

ความรุนแรงในการขัดแย้งด้านความคิดการเมือง ทฤษฏีสมคบคิด การทำโฆณาชวนเชื่อ การแบ่งเขาแบ่งเรา มันทำได้ง่ายและรุนแรงมากด้วยเทคโนโลยีที่เราใช้อยู่โดยใช้ทุนไม่มากเลย
ตัวอย่างที่เห็นชัดเจน รุนแรง และเกิดผลขึ้นมาแล้วใกล้ๆบ้านของเรานี่เองคือ การสังหารหมู่ชาวโรฮิงยาที่พม่า เมื่อเร็วๆนี้

และยังเกิดขึ้นในอีกหลายๆกรณี และจะมีมากขึ้นเรื่อยๆ ไม่เกี่ยวกับเรื่องความฉลาดหรือไม่ฉลาดของผู้คน ไม่เกี่ยวกับประเทศด้อยพัฒนาหรือประเทศพัฒนาแล้ว มันสามารถเกิดได้ทุกที่

การแทรกแทรงการเลือกตั้งในอเมริกาของรัสเซีย น่าจะเป็นเรื่องที่เห็นภาพได้ดีที่สุดเรื่องหนึ่ง

แล้วจะมีวิธีป้องกัน หรือแก้ไขมันอย่างไรได้บ้าง

ในหนังเรื่องนี้บอกวิธีให้อยู่สามสี่อย่าง แต่ใช้คำว่ามันค่อนข้างริบหรี่ อาจต้องพึ่งปาฎิหารย์ แต่เราไม่มีทางเลือกครับ เราต้องทำอะไรสักอย่าง

พวกเขาได้รวมตัวและก่อตั้ง Center for Humane Technology เพื่อส่งข้อมูลนี้ออกสู่ผู้คน พยายามผลักดันให้เกิดกฏหมายควบคุมหรือการเปลี่ยนแปลงนโยบายการเมือง ที่ต้องมาควบคุมโมเดลธุรกิจที่ผิดเพี้ยนเหล่านี้

ในด้านของประเทศไทย การใช้เทคโนโลยีของพวกเราอย่างไม่มีขีดจำกัด ถึงตอนนี้คุณน่าจะพอมองเห็นเค้ารางจากข้อมูลทั้งหมดนี้แล้ว เรามีองค์ประกอบใดบ้างที่พร้อมและรอจะทำให้เกิดภัยพิบัติในสังคมของเรา หรือว่ามันอาจจะไม่เกิดกับเราก็ได้ เพราะเราเป็นคนชาติเดียวที่วิเศษและแข่งแกร่งทางด้านจิตวิทยามากกว่าประเทศอื่น หรือลูกๆของเรามีจิตใจที่แข็งแกร่งกว่า มีก้านสมองที่ดีกว่าเด็กๆประเทศอื่น

ผมจะจบเรื่องเล่านี้ด้วยคำพูดของ Tristan Harris ครับ

"เรากังวลและคอยระวังเสมอว่าเทคโนโลยีอาจเอาชนะกำลังและภูมิปัญญาของมนุษย์ได้ มันจะถึงจุดที่ข้ามภาวะของความฉลาดกว่ามนุษย์อีกเมื่อไหร่ จะทำงานแทนเราในตอนไหน ซึ่งคงอีกนานมากกว่าจะไปถึงวันนั้น แต่วันนี้เทคโนโลยีก็ได้พิชิตจุดอ่อนของมนุษย์ไปแล้ว ความรู้สึกของการเสพติด การแบ่งขั้ว การสร้างแนวคิดสุดโต่ง การสร้างความรุนแรง การสร้างความทนงตัว นี่คือธรรมชาติที่มนุษย์ไม่อาจต้านทาน และนี่คือการรุกฆาตมวลมนุษยชาติ"
Tristan Harris
Google- Former Design Ethicist
Center for Humane Technology- Co-Founder

Deeboon