學校正在使用人工智能來跟蹤學生在電腦上寫了什麼
今年秋天,美國有超過5000萬K-12年級的學生將重返校園,他們中的絕大多數人將在學校的電腦上每次輸入一個單詞時被跟蹤。根據《兒童國際保護法》(Children’s International Protection Act),接受聯邦資助的美國學校必須製定互聯網安全政策。
這類政策的指導方針各不相同,從簡單地屏蔽含有潛在不當內容的網站,到利用seculy、Gaggle和GoGuardian等軟件公司的幫助,將麻煩的學生通信報告給學校領導層,這些措施要全麵得多。
這些公司使用安全管理平台,利用自然語言處理來篩選學生在學校電腦上輸入的數百萬個單詞。這些公司都做了案例研究可以將這些smp與截獲的消息鏈接起來,有助於防止一場潛在的學校悲劇發生。隨著大規模校園槍擊和自殺率的上升,這種攔截具有真正的內在價值。但是,它也模糊了學生安全和學生隱私之間的界限。
smp的真正作用是什麼?
常識媒體(Common Sense Media)隱私審查主管吉拉德·凱利(Girard Kelly)認為,安全管理平台的出現和實施使監視的想法從很小的時候就開始正常化。他擔心的是,這樣的常態化會讓孩子們在學習保護他們的在線數據和隱私的重要性時變得脆弱——這種類型的脆弱性以前就被數據挖掘公司利用過,其方式頗具爭議引發了Facebook的劍橋分析醜聞.
平衡學生的安全和他們的隱私是一項艱難的行動,還沒有找到一個折衷方案,讓兩黨都感到滿意。隨著校園暴力、校園欺淩和精神疾病在學生群體中的上升,學校找到保護學生免受潛在悲劇的方法比以往任何時候都更重要。然而,行政部門和實施安全管理平台(Safety Management platform)等倡議的公司必須取得平衡,這些倡議既尊重學生的自由,又能找到一種從道德上監督和發現潛在問題的方法。
知情同意及其影響
學生是否應該知道,當他們在校園裏使用科技產品時,他們會受到監控?支持者認為這樣的透明度對學生的隱私和自由是公平的,但批評者認為這樣做的代價是自我審查和一個實際的、有用的數據的妥協.安全地和Gaggle等公司站在預防一方,認為未經知情同意的不受限製的監控可以挽救生命。
他們認為,問題學生(以及某些情況下的問題教師)的意圖和陰謀,如果他們知道自己被監視,就不會有必要采取預防措施的清晰和真相。因此,潛在的悲劇被隱藏在學校通信係統之外——當潛在的問題出現時,讓機構處於黑暗之中。然而,必須找到一種平衡,因為這種監視可能會走極端,奪走安全的數字空間,讓學生不用擔心報複就能做自己。