设计安全| TechCrunch

2025-06-26 09:53来源:本站

  

  

  W

  欢迎来到TechCrunch交流,这是一份创业公司与市场的每周时事通讯。它的灵感来自于TechCrunch+的每日专栏这就是它的名字。想让它每周六都出现在你的收件箱里?在这里注册。

  科技重新发明轮子的能力也有它的缺点:它可能意味着忽视别人已经知道的明摆着的事实。但好消息是,新创始人有时会比他们的前辈更快地找到自己的出路。——安娜

  今年是奥运年,也是闰年……还有选举年。但在你指责我美国违约之前,我想的不仅仅是拜登vs特朗普的续集:60多个国家正在举行全国选举,更不用说欧盟议会了。

  这些投票的变化会对科技公司产生何种影响;例如,不同的政党对人工智能监管往往有不同的看法。但在选举开始之前,科技也将发挥作用,确保选举的完整性。

  马克·扎克伯格(Mark Zuckerberg)在创建Facebook时可能并没有考虑到选举诚信,甚至在收购WhatsApp时也可能没有考虑到。但20年和10年后的今天,信任和安全已经成为meta和其他科技巨头无法逃避的责任,不管他们喜欢与否。这意味着要努力防止虚假信息、欺诈、仇恨言论、儿童性侵材料、自残等等。

  然而,人工智能可能会使这项任务变得更加困难,这不仅仅是因为深度造假或授权给更多的坏人。Grove Ventures的普通合伙人洛坦?莱夫科维茨说:

  尽管在线论坛已经在内容审核方面学到了一些东西,但Facebook诞生之初并没有社交网络的剧本可供效仿,所以它需要一段时间才能完成这项任务,这在一定程度上是可以理解的。但令人沮丧的是,从内部元文件中得知,早在2017年,内部仍不愿采取能够更好地保护儿童的措施。

  扎克伯格是最近出席美国参议院关于儿童网络安全听证会的五位社交媒体技术首席执行官之一。到目前为止,证明并不是meta的第一次,但Discord也值得注意;虽然它的触角已经超出了游戏领域,但它提醒人们,在许多网络场所,信任和安全威胁都可能发生。这就意味着,一款社交游戏应用可能会让用户面临网络钓鱼或欺骗的风险。

  新公司会比faang更快地坦白吗?这并不能保证:创始人通常根据第一原则行事,这有好有坏;内容审核学习曲线是真实存在的。但OpenAI比meta年轻得多,所以听到它正在组建一个新的团队来研究儿童安全是令人鼓舞的——即使这可能是它受到审查的结果。

  然而,一些初创公司并没有等到出现麻烦的迹象才采取行动。ActiveFence是一家人工智能信任和安全解决方案提供商,也是Grove Ventures投资组合的一部分,该公司首席执行官诺姆?施瓦茨(Noam Schwartz)告诉我,该公司收到了越来越多的入站请求。

  “我看到很多刚成立或即将成立的公司的人联系我们的团队。他们在设计阶段就考虑到产品的安全性,并采用了一种叫做设计安全的概念。他们在自己的产品中加入了安全措施,就像今天你在构建自己的功能时要考虑安全和隐私一样。”

  ActiveFence并不是这个领域唯一的初创公司,《连线》杂志将其描述为“信任和安全即服务”。但它是最大的公司之一,尤其是在9月份收购了Spectrum Labs之后,所以很高兴听到它的客户不仅包括害怕公关危机和政治审查的大公司,还包括刚刚起步的小团队。科技行业也有机会从过去的错误中吸取教训。

一物网声明:未经许可,不得转载。