(纽约综合电)美国纽约州总检察长詹姆斯首次披露,短视频平台TikTok涉嫌在内部对照组测试中隐蔽了青少年用户要求避开危险内容的安全功能,受影响的美国用户多达1500万,当中有一名10多岁的青少年自杀身亡。
詹姆斯(Letitia James)控告TikTok疏于照顾儿童安全的诉状,星期三(10月7日)首次公开一项指控,称TikTok从2021年起秘密进行的对照组测试(A/B testing),挑出约10%的用户,当他们启动一个“重置算法”(Algo Refresh)的新功能,以重新设定推送视频的算法,避开潜在的危险内容,TikTok却没有真正启动功能,而是在他们不知情下继续推送同样的内容;至于其他作为对照组的用户则如常获得新功能,重新设置视频推送的算法。
詹姆斯在诉状中说,TikTok这么做是要测试选择“重置算法”会否导致用户待在平台的时间减少,“TikTok因此让这些接受测试的用户在平台的体验因产品设计而变得不安全”。
她说,一名自杀身亡的青少年就是在没有获得安全功能的测试组别当中。
延伸阅读
OpenAI:青少年日均使用ChatGPT不足15分钟
澳洲监管机构:热门游戏平台儿童保护存在明显缺口
TikTok在一份呈堂文件中承认,公司确实进行一些测试,“可能涉及一部分平台浏览继续接收到原本的体验”。不过,它否认这些测试导致平台对这些用户变得不安全。
TikTok在一份声明中说:“我们持续优化平台,意味着我们跟多数公司一样,经常测试新产品和功能以检测这些用户体验,了解产品在现实世界的运作。”
TikTok刚在9月以最多3亿美元(约3亿8400万新元)的赔偿金,与美国亚拉巴马州达成和解,不过仍面对其他个别州属的诉讼。