什么是Gaggle?它是如何工作的?
心理健康是整体福祉和健康的重要组成部分。根据世界卫生组织的定义,“心理健康是一种良好的状态,在这种状态下,个人能够认识到自身的才能,能够应对正常的生活需求,能够有效地工作,并且能够为其所在社区做出贡献。如果一个人心理不健康,他或她可能会遇到各种各样的问题,或者患上可能致命的精神疾病或障碍。”
拥有良好的心理健康,我们可以做出更好更明智的决定和判断。它对幸福的人际关系和心理健康至关重要。心理健康会影响自尊和自信。拥有良好的心理健康有助于我们享受生活和获得满足感。
心理健康也影响着一个人如何看待自己、他人、未来和各种人生事件。如果一个人的心理健康状况不佳,所有事情都会显得令人不快、糟糕和令人不满。相反,一个心理健康的人会现实地看待不同的情况,做出明智的判断,并充分体验生活。
Gaggle是一家监控美国近500万儿童工作和对话的公司,学校为此支付了巨额费用。数百份商业文件揭示了一个庞大的针对儿童的监控产业体系,而这些儿童无法选择退出。你希望你的导师和顾问是一个人工智能驱动的应用程序吗?Gaggle是一个救命应用,还是仅仅是另一个隐私威胁?
Gaggle到底是什么?
Gaggle是一款人工智能驱动的学校监控软件,它会分析学生的谷歌和微软账户中的通讯内容。其主要目标是尽快通知学校官员是否存在对学生身心健康的威胁,并保护学生免受有害信息的侵害。其最终目的是防止灾难性事件的发生。
当Gaggle系统中出现令人担忧的关键词时,它会立即通知学校管理人员(例如,它会指出违法行为的证据、粗俗语言、潜在的网络欺凌以及自残的提及)。这些信息的存在可以使学校官员采取行动并限制任何影响。许多学校为此投入了大量资金。Gaggle监控着美国约500万名学生。虽然它能够通过实时内容分析“防止灾难”,但也增加了前所未有的学校监控和隐私问题。它处理诸如心理健康等敏感话题,并且可能将这些话题暴露给公众。
全世界的人都受到精神疾病的影响。不良的心理健康会导致成瘾和其他令人不快、压力大和有害的影响。世界上每四个人中就有一人患有某种精神疾病。这是一种非常令人担忧的情况。无论一个人是白人、黑人、矮个子、高个子、年轻人还是老年人,精神疾病都可能影响任何人。
仅在美国,就有十二分之一的人患有物质使用障碍,这可能是由不良的心理健康导致的,或者会导致其他身心健康问题。在美国,每24人中就有1人患有严重精神疾病,每5人中就有1人患有轻度精神疾病。
它是如何工作的?
许多学校为此投入了大量资金。Gaggle监控着美国约500万名学生。虽然它能够通过实时内容分析“防止灾难”,但也增加了前所未有的学校监控和隐私问题。它处理诸如心理健康等敏感话题,并且可能将这些话题暴露给公众。Gaggle借助内部团队的认证安全专家监控可能预示学校安全风险的标记通讯和内容。监控这些领域的Gaggle团队成员拥有专业领域的背景。例如:执法、心理学、社会工作、自杀预防和危机管理。该团队会评估报告的信息并对在线事件进行分类,以确定事件的严重程度。
当任何内容被标记和标记时,该团队会通知学校工作人员。该系统会通知他们任何违规行为、攻击性内容或严重的心理健康问题。它还会通知他们任何似乎对学生构成威胁的事情。Gaggle还会发现淫秽照片和关于带到学校的武器的信息等。
可能存在问题的威胁
员工资质
Gaggle商业模式和员工资质的不透明性令人担忧。虽然该公司声称其员工“拥有诸如刑事司法、心理学、传播学、卫生管理和教育等领域的学位”,但尚不清楚此信息是否适用于公司所有级别。我们对Gaggle的培训和认证计划也知之甚少。
更令人担忧的是,Gaggle针对1级人员的招聘信息并不需要申请者具备心理健康或青少年治疗方面的经验,但他们必须熟悉社交媒体的语言。而且,他们的福利待遇或保险情况也不清楚。这些问题让人质疑敏感信息的处理方式。
隐私侵犯
虽然Gaggle声称已防止数百起自杀事件,并已识别出722起与自杀相关的事件,但无法确定Gaggle在此类预防工作中发挥了多大作用。批评者认为,这种高度的监控是不合理的,并且会对学生造成损害。家长和学生也对第三方监控此类私人和敏感事项表示担忧。
信息泄露
与大多数其他平台一样,Gaggle也并非不受数据泄露的影响。如果此类敏感信息落入坏人之手并公开发布,后果将不堪设想。鉴于全世界每天发生的大量数据泄露事件,这种情况并非不可能。
可能出现不准确的情况
虽然Gaggle的招聘做法令人担忧,但该公司使用人工智能也可能导致错误,从而给相关人员带来更大的痛苦。人工智能算法并非完美无缺,如果缺乏足够的上下文,它们可能会误解陈述。