贴上“随笔”标签的条目

第41页第1页

保护自己免受身份盗窃

我没有什么好消息告诉你。事实上,我们无能为力保护我们的数据不被网络罪犯和其他人窃取。

十年前,我可以给你各种关于使用加密的建议,没有通过电子邮件发送信息,保护您的网络连接,还有很多其他的事情……但大部分都不再重要了。今天,你的敏感数据是由他人控制的,你个人也不能做任何事情来影响它的安全。

我可以给你一些建议,比如不要住酒店(万豪酒店违约事件),没有得到政府许可(人事管理办公室黑客)。不要在线存储照片(Apple Break等)。不要使用电子邮件(很多,许多不同的违规行为)除了匿名的只收现金的关系Ever(Equifax违规)。但这对于任何想在21世纪过正常生活的人来说都是荒谬的建议。

事实是你的敏感数据可能已经被偷了,多次。网络罪犯有你的信用卡信息。他们有你的社会保险号码和你母亲的婚前姓。他们有你的地址和电话号码。他们通过黑客攻击你委托的数百家公司中的任何一家来获取数据,而你对这些公司的安全实践却一无所知,当他们丢失你的数据时,你没有追索权。

考虑到这一点,您最好的选择是将您的努力转向确保您的数据不会被用来反对您。尽可能对所有重要帐户启用双因素身份验证。不要在重要的事情上重复使用密码——让密码管理器记住所有的密码。

尽最大努力禁用“秘密问题”当您忘记密码时,公司会使用其他备份身份验证机制…—这些机制总是不安全的。注意你的信用报告和银行账户中的可疑活动。与主要的信用机构建立信用冻结。小心那些自称是你生意伙伴的人发来的电子邮件和电话。

当然,你不太可能这么做。几乎没有人这样做。那是因为它既烦人又不方便。这就是现实,不过。与您做生意的公司没有真正的动机来保护您的数据。你保护自己的最好方法就是改变这种动机,这意味着鼓动政府监督这个空间。这包括禁止性规定,更灵活的安全标准,债务,认证,许可,和有意义的标记。一旦发生这种情况,市场将介入并为公司提供他们可以用来保护您的数据的技术。

这篇文章以前发表在罗切斯特评论,作为校友论坛的一部分,有人问:“你如何最好地保护自己免受身份盗窃?”

5月6日发布,2019年7点08分·查看评论

为了公众利益的网络安全

加密战争已经持续了四分之一个世纪。一方面是执法,希望能够破坏加密,获取恐怖分子和罪犯的设备和通信。另一方面,几乎所有的密码学家和计算机安全专家,反复解释说,如果不削弱这些设备和通信系统的每个用户的安全性,就没有办法提供这种能力。

这是一场充满激情的辩论,有时刻薄,但是有一些真正的技术可以解决这个问题:关键的托管技术,代码模糊技术,以及具有不同特性的后门。无处不在的监视资本主义——正如已经在监视所有人的互联网公司所做的那样——很重要。社会的基本安全需求也是如此。提供执法机会有利于安全,即使它不可避免地也总是给别人这种机会。然而,保护这些系统不受所有攻击者的攻击也有安全上的好处,包括执法。这些好处是相互排斥的。哪个更重要,到什么程度呢?

问题是,几乎没有决策者从技术上知情的角度讨论这一政策问题,很少有技术专家真正了解这场辩论的政策轮廓。结果是双方一直在互相交谈,而政策提案——偶尔会成为法律——则是技术灾难。

这是不可持续的,无论是针对这个问题还是关于互联网安全的任何其他政策问题。我们需要了解技术的决策者,但我们也需要网络安全技术专家,他们了解并参与到网络安全政策中。我们需要公共利益技术专家。

我们到此为止。福特基金会将公益科技人员定义为“注重社会公正的技术从业者”。共同的利益,和/或公共利益。”最近,一组学者写道,公共利益技术人员是“研究技术专长的应用以促进公共利益的人,创造公共利益,或者促进公共利益。”Tim Berners-Lee称他们为“哲学工程师”。我认为公共利益技术人员是将他们的技术专长与公共利益重点结合起来的人:通过研究技术政策,通过参与一个公益的科技项目,或者作为一个传统的技术专家为一个有公共利益的组织工作。也许这不是最好的术语——我知道不是每个人都喜欢它——但它是一个很好的总括性术语,可以涵盖所有这些角色。

我们需要公众利益的技术专家参与政策讨论。我们需要国会工作人员的帮助,在联邦机构中,在非政府组织(NGO)在学术界,公司内部,作为媒体的一部分。在我们的领域,我们需要他们不仅参与加密战争,但是网络安全和政策之间的任何地方都是相互联系的:脆弱性股票辩论,选举安全,加密货币政策,物联网安全保障,大数据,算法的公平性,敌对的机器学习,关键基础设施,以及国家安全。当你扩大互联网安全的定义时,许多其他领域属于网络安全和政策的交叉点。我们的专业知识和看待世界的方式对于理解许多技术问题至关重要,比如网络中立性和关键基础设施的监管。我不想在没有安全技术专家参与的情况下制定有关人工智能和机器人的公共政策。

公共利益技术并不新鲜。许多组织都在这方面工作,从像EFF和EPIC这样的老机构,到像现在这样的认证投票和访问的新机构。许多学术课程和项目结合了技术和公共政策。我在哈佛大学肯尼迪学院的网络安全政策课就是一个例子。像Markup这样的媒体初创公司正在从事技术驱动的新闻业。甚至在营利性公司内部也有与公共利益技术相关的项目和倡议。

这看起来很像,但事实并非如此。没有足够的人去做,没有足够的人知道这需要做,而且没有足够的地方去做。我们需要建立一个为公共利益技术人员提供可行职业道路的世界。

有很多障碍。有一份题为关键时刻其中包括这句话:“虽然我们列举了富有远见的领导能力和为公众利益成功运用技术技能的个别例子,人们一致认为,供应不足是一个顽固的循环,需求错位,效率低下的市场阻碍了进步。”

这句话说明了这三个地方需要干预。一:供电侧。只是没有足够的人才来满足最终的需求。尤其是在网络安全方面,这在整个领域都存在人才问题。公共利益技术人员是一个多元化、多学科的群体。他们的背景来自技术,政策,和法律。我们还需要在公共利益技术领域培育多样性;使用该技术的群体必须以形成该技术的群体来表示。我们需要各种各样的方式让人们参与到这个领域中:人们可以从侧面做的方式,在传统技术工作之间的几年里,或者把它作为一份有回报的全职工作。我们需要公共利益技术成为每门核心计算机科学课程的一部分,“诊所”在大学里,学生们可以体验到公共利益工作。我们需要科技公司给人们提供休假来完成这项工作,然后珍惜他们所学到的和所做的。

第二:需求方。这是我们目前最大的问题;没有足够多的组织明白他们需要技术专家来从事公共利益工作。我们需要各种各样的非政府组织为就业提供资金。我们需要整个政府的工作人员:行政人员,立法的,和司法分支。奥巴马总统的美国数字服务应该得到扩展和复制;美国也应该这样做。我们需要更多的新闻机构来完成这类工作。

三:市场。我们需要工作板,会议,以及技能交流——让供应方的人了解需求的地方。

主要的基金会开始在这个领域提供资金:尤其是福特和麦克阿瑟基金会,但其他人也一样。

这一问题与公共利益法领域有着有趣的相似之处。在20世纪60年代,没有公共利益法。这个领域是有意创造的,由福特基金会等组织资助。他们资助了大学的法律援助诊所,让学生们学习住房,歧视,或移民法。他们为美国公民自由联盟和全国有色人种协进会等组织提供奖学金。他们创造了一个重视公共利益法的世界,大型律师事务所的所有合伙人都应该做一些公益工作。今天,当美国公民自由联盟发布招聘律师的广告时,支付三分之一到十分之一的正常工资,它有数百名申请者。今天,20%的哈佛法学院毕业生进入公共利益法,学校也有寻魂研讨会,因为这个比例很低。与此同时,从事公共利益工作的计算机科学毕业生比例基本为零。

这比计算机安全更重要。现在科技以一种不同于几十年前的方式渗透到社会中,政府行动太慢,没有考虑到这一点。这意味着现在的技术人员与他们没有传统联系的所有领域都有联系:气候变化,食品安全,未来的工作,公共卫生,生物工程。

更一般地说,技术人员需要了解他们工作的政策后果。硅谷普遍存在这样一个神话:技术在政治上是中立的。不是,我希望今天读这篇文章的大多数人都知道这一点。我们建立了一个程序员认为他们有一个固有的权利来按照他们认为合适的方式对世界进行编码的世界。我们被允许这样做是因为,直到最近,没关系。现在,太多的问题是在一个不受管制的资本主义环境中决定的,在这种环境中,往往不考虑重大的社会成本。

这就是社会的核心问题所在。20世纪的政治问题是:“什么应该由国家治理,市场应该控制什么?”这就决定了东西方的区别,以及国家内部政党之间的差异。21世纪上半叶的决定性政治问题是:“我们的生活有多少应该由技术来管理,在什么条件下?”上个世纪,经济学家推动公共政策。在本世纪,这将是技术专家。

未来的发展速度快于我们当前的一套政策工具所能应付的。解决这一问题的唯一方法是在技术人员的帮助下开发一套新的策略工具。我们需要在公共利益工作的各个方面,从通知政策到创建工具,所有这些都在构建未来。世界需要我们所有人的帮助。

这篇文章之前发表在2019年1月/ 2月的《科学》杂志上IEEE安全与隐私.我维护一个公共利益技术资源页面在这里.

发布于5月3日,2019年凌晨4点33分·查看评论

捍卫民主以抵御信息攻击

为了更好地理解影响攻击,我们提出了一种方法这将民主本身塑造成一个信息系统,并解释了民主是如何容易受到专制国家自然抵制的某些形式的信息攻击的。我们的模型结合了国际安全和计算机安全的理念,避免在解释攻击对整个民主的影响时受到两者的限制。

我们的初始帐户必然是有限的。把民主作为一个信息系统来构建一个真正全面的理解,将是一项艰巨的任务,包括政治科学家和理论家的集体努力,计算机科学家,学者的复杂性,以及其他。

在这篇短文中,我们承担了一项更为温和的任务:提供政策建议,提高民主对这些攻击的恢复力。明确地,我们可以展示政策制定者不仅需要思考如何加强系统抵御攻击,但还需要考虑这些努力如何与关于这些制度的公共信仰(或公共政治知识)相交叉,因为公众信仰本身可能是攻击的重要媒介。

在民主国家,许多重要的政治决策都是由普通公民(通常,在选举民主国家,通过选举政治代表)。这意味着公民需要对他们的政治制度有一些共同的理解,社会需要一些方法来产生关于公民是谁和他们想要什么的共享信息。我们称之为共同的政治知识,它主要是通过社会聚集机制(以及实施这些机制的机构)产生的,比如投票,人口普查,诸如此类。这些机制不完善,但对民主的正常运作是必不可少的。在独裁政权中,他们往往是妥协或不存在的,因为他们可能对统治者构成威胁。

在现代民主国家,最重要的机制是投票,它综合了公民对竞争党派和政治家的选择,以决定谁在有限的时间内控制行政权力。另一个重要机制是人口普查过程,在美国和其他民主国家发挥着重要作用,在提供关于人口的广泛信息时,在制定选举制度(通过在众议院分配席位)时,以及政策制定(通过政府开支和资源的分配)。较不重要的是公共评论过程,通过它,个人和利益集团可以对重大的公共政策和监管决定发表评论。

所有这些系统都容易受到攻击。选举很容易受到各种非法操纵,包括选举舞弊。然而,在美国,许多操纵行为都是合法的,包括许多形式的选区划分不公,花哨的投票时间,分配投票站和资源,以便对特定人群有利或不利,强加繁重的注册和身份要求,等等。

通过提供虚假信息或更可信的是,通过政策或资源的倾斜,使一些人口数量不足。过去几十年来,人口普查的许多政治斗争都是围绕人口普查是否应采取统计措施,以应对统计上不太可能返回人口普查表格的人口的抽样不足偏见展开的,比如少数民族和非法移民。目前的努力包括一个关于移民身份的问题,可能会使无证件或最近移民返回填写好的表格的可能性降低。

最后,公众评论系统也容易受到旨在歪曲支持或反对具体提案的攻击,包括人工草根组织的形成和大规模邮件中的冒用或盗用身份,传真,电子邮件或在线评论系统。

所有这些攻击都比较清楚,即使更好地理解它们与共享政治知识的关系可以改善政策选择。例如,有些选民身份证要求是通过呼吁对选民舞弊的安全关切而合理化的。尽管政治学家表示,这些担忧在很大程度上是没有根据的,我们目前缺乏一个评估权衡利弊的框架,如果任何。计算机安全概念,如保密性,完整性,可用性可以与政治科学和政治理论的发现相结合,以提供这样一个框架。

即便如此,政策制定者对社会聚集机构与公众信仰之间的关系了解得不多。即使社会聚集机制和机构能够抵御直接攻击,他们可能容易受到更间接的攻击,目的是破坏公众对他们的信仰。

民主社会容易受到(至少)两种知识攻击,而独裁社会则不然。首先是洪水袭击,使公民对其他公民的信仰产生混乱,使他们更难组织起来。其次是信心攻击。这些企图破坏公众对社会聚集机构的信心,因此他们的结果不再被广泛接受为公民的合法代表。

最明显的是,如果公民不相信投票是公平的,民主国家的运作就会很糟糕。这使得民主国家容易受到旨在动摇公众对投票机构信心的攻击。例如,俄罗斯针对2016年总统大选的一些黑客行为旨在破坏民众对选举结果的信心。俄罗斯黑客攻击乌克兰,以公布选举结果的制度为目标,目的是让选民对选举结果产生困惑。同样地,“Guccifer 2.0”黑客身份,这要归功于俄罗斯的军事情报试图暗示在总统选举前几天,美国的选举制度已经受到民主党人的影响。如果,果不其然,唐纳德·特朗普输掉了选举,这些声明可能与黑客行为的实际证据相结合,从而使选举看起来受到了根本性的损害。

对于2020年美国人口普查,可能会采取类似的针对公平观念的攻击。如果包括公民身份问题的努力失败,一些因人口变化而处于不利地位的政治行动者,如外国出生人口的增加以及从农村向城市和郊区的人口转移,将努力使人口普查结果失去合法性。再一次,人口普查的真正问题,这不仅包括公民问题的争论,还包括严重的资金不足,可能有助于加强这些努力。

允许感兴趣的行动者和普通公众对拟议政策发表评论的机制同样脆弱。例如,联邦通信委员会(FCC)在2017年宣布,它提议废除其网络中立性裁决。支持联邦通信委员会(FCC)倒退的利益集团正确地预期到了一个由网络中立支持者组成的政治活跃联盟的广泛反对。其结果是通过公开评论进行战争。提交了2200多万条评论,其中大多数似乎要么是自动生成的,要么是形成字母的。数以百万计的评论显然是假的,并在支持联邦通讯委员会废除法案的评论中附上了毫无疑问的人名和电子邮件地址。绝大多数既不是信件形式也不是自动生成的评论都反对FCC的提案。评论过程中的愤怒被来自联邦通信委员会内部(后来被怀疑)的声称放大了,即评论过程也受到了网络攻击。

我们还不知道假评论泛滥背后的演员的身份和动机,尽管纽约州总检察长办公室已经发布了各种游说和宣传组织的记录传票。然而,通过证明评论过程很容易被操纵,这次攻击使得反对联邦通信委员会(FCC)拟议裁决的人表面上真实的评论不太可能被视为公众所相信的有用证据。对所谓的网络攻击的愤怒,联邦通讯委员会不愿意调查这次袭击,这进一步削弱了人们对一个旨在使联邦通信委员会对美国公众更加开放的在线评论系统的信心。

我们对民主如何作为信息系统发挥作用知之甚少。提高认识本身就是一个重大的政策挑战,这需要大量的资源,更重要的是,共同的理解和共同的努力,跨越各种各样的知识领域,目前并没有真正参与彼此。

然而,即使这张民主信息方面的基本草图也能为决策者提供一些关键的教训。最重要的是,加强公众对投票等关键机构的共同信念可能同样重要,公开评论,以及针对攻击的人口普查,以加强机制和相关机构本身。

明确地,许多减轻对民主制度的攻击的努力都是从传播公众对其脆弱性的认识和警报开始的。这有利于提高对实际问题的认识,但它可能——特别是如果夸大效果——会损害公众对它所要保护的社会聚集机构的信心。这可能意味着,例如,公众对俄罗斯黑客行为的认识是建立在有缺陷的分析技术基础上的,这种做法本身可能会夸大攻击的后果,从而损害民主。

更一般地说,这对确保社会聚集机构不受攻击的政策努力提出了重要挑战。在不损害公众对系统的信心的情况下,如何才能最好地保护系统本身?至少,成功的政策措施不会简单地识别现有系统中的问题,但提供切实可行的,公开可见的,以及易于理解的缓解措施。

我们在这篇短文中集中讨论了信任攻击的问题,因为它们都比洪水袭击更难理解,更深刻。鉴于历史经验,民主或许能够经受住一些关于公民信仰的虚假信息的冲击,而不是针对其核心机构的攻击。决策者需要更好地了解政治制度和社会信仰之间的关系:具体来说,允许民主国家了解自己的社会聚集机构的重要性。

有一些低垂的水果。通常,加强这些机构对攻击他们的信心将与加强他们对攻击更普遍。因此,例如,要求永久纸质选票和随机审计的投票改革不仅能更好地确保投票不受操纵,但也会对公众信仰产生适度有益的影响。

对于公众评论系统,可能有大致相似的解决方案。在这里,信息权衡不如投票那么深刻,由于没有必要在匿名要求(这样就没有人能知道谁在事后投票给了谁)和其他要求(确保没有人投两次或更多的票,不改变投票等等)。相反,要达到的平衡是访问的普遍便利和安全,使它更容易,例如,利用辅助源来验证身份。

美国人口普查和其他指导资源分配的统计系统的稳健性和公众信心都可以通过使它们更好地与政治控制隔离来提高。例如,类似的制度也可以用来任命人口普查局局长为美国总审计长,要求两党一致同意任命,给公务员带来了任职压力。

我们的论点也说明,一些善意的努力,以打击社会影响行动,可能会有悖常理的结果,一般的社会信仰。安全感至少与安全的现实同等重要,任何针对信息攻击的防御都需要同时解决这两个问题。

然而,如果我们要正确理解权衡,我们需要更完善的知识工具,而不是提出明确的有利政策,避免直接的错误。伪造这些工具将需要计算机安全专家开始系统地思考公共信仰,将其作为他们寻求捍卫的系统的一个组成部分。这将意味着更多以军事为导向的网络安全专家需要深入思考民主的运作以及内部和外部行动者破坏民主的能力,而不是达到国家级威慑工具的标准工具包。最后,民主工作的专家们必须学会如何从具体的信息角度来思考民主及其权衡。

这篇文章是亨利·法雷尔写的,并且有以前出现过关于消除信息失真。

4月30日,2019年6点59分·查看评论

判断Facebook的隐私转移

Facebook正在对隐私做出新的、更坚定的承诺。上个月,该公司雇佣了三个在其最强烈的批评声中,把他们安排到高级技术职位。周三,马克•扎克伯格写的公司会将重点放在长期定义平台的公共共享之上的私人对话上,即使承认“坦率地说,我们目前在建立隐私保护服务方面没有很强的声誉”。

充足的原因质疑扎克伯格的声明:公司已经--破碎——多年来许多隐私承诺。如果你仔细阅读他的3000字的帖子,扎克伯格对改变Facebook的监督资本主义商业模式。所有的帖子讨论都是让私人聊天对公司更为重要,这似乎是一个游戏,以增加市场主导地位和计数器中国公司微信。

在安全和隐私方面,魔鬼总是在细节中——而扎克伯格的帖子却没有提供任何细节。但我们会照他的话去做,并尽量在这里填写一些细节。如果Facebook认真改变其商业模式并改善用户隐私,下面列出了我们应该期待的变化。

Facebook在其平台上如何对待人们

提高广告商和应用程序访问用户数据的透明度。今天,Facebook用户可以下载和查看公司有很多关于它们的数据。这很重要,但还不够远。该公司可以更加透明地了解它与广告商和其他人共享的数据,以及它如何允许广告商选择他们展示广告的用户。Facebook可以在可用性测试中运用其丰富的技能,帮助人们理解广告商向他们展示广告的机制,或者了解它在用户时间线上选择展示什么的背后原因。它可以兑现承诺在这个地区。

更好的——更有用的——隐私选项。Facebook用户对如何与其他Facebook用户共享数据的控制有限,几乎无法控制如何与Facebook广告商共享数据,这是公司的真正客户。此外,这些控件隐藏在复杂而混乱的菜单选项后面。说句公道话,其中一些原因是隐私很复杂,而且很难理解不同选择的结果。但其中很多都是经过深思熟虑的;Facebook不希望它的用户将他们的数据从其他用户那里私有化。

该公司可以让人们更好地控制如何以及是否使用他们的数据,共享的,并出售。例如,它可以允许用户关闭有针对性的新闻和广告.由此,我们不是简单地让那些广告隐形;我们的意思是关闭那些裁剪系统的数据流。最后,由于大多数用户在配置应用程序时坚持使用默认选项,一个不断变化的Facebook可能会将这些默认设置倾向于更多隐私,大部分时间需要较少的裁剪。

更多的用户保护免受跟踪。“Facebook跟踪”通常被认为是“跟踪光”,或者“无害”。但跟踪者很少是无害的。Facebook应承认这类滥用,并与专家合作开发保护所有用户的工具,尤其是最脆弱的。这些工具应该引导普通人远离恐怖,并赋予受害者权力和灵活性,让他们能够从支持者到警察等各种来源寻求援助。

完全结束实名强制。Facebook的实名制政策,要求用户在平台上使用真实的合法姓名,伤害了比如活动家,亲密伴侣暴力的受害者,警察的工作使他们成为目标,以及任何一个有着公众形象的人,他们希望能够控制他们如何向公众表明自己的身份。Facebook有很多方法可以改进这一点,从结束执法到允许每个人验证化名,而不仅仅是像Lady Gaga这样的名人。这样做将标志着一个明显的转变。

Facebook是如何运营其平台的

提高Facebook商业行为的透明度。评估Facebook最困难的事情之一就是努力获得有关其商业实践的良好信息。当媒体曝光违规行为时,就像往常一样,我们都对Facebook侵犯用户隐私的不同方式感到惊讶。最近,该公司使用的电话号码为广告和网络目的提供双因素认证。Facebook需要明确和详细地说明如何以及何时共享用户数据。事实上,不再讨论“分享”讨论“转移”,获取原始信息,以及“获取派生信息”这将是一个明显的进步。

提高审查规则的透明度。脸谱网做出选择关于网站上可接受的内容。这些选择是有争议的,由数千人实施低工资工人很快实现不明确的规则.这些真是太多了困难的问题没有明确的解决方案。当人们试图阻止可恨的话时,即使是明显的规则也会遇到挑战。合法地讨论一些重要的话题。不管Facebook在这方面做什么,公司需要对其流程更加透明。它应该允许监管者和公众审计公司的行为。此外,Facebook应该与世界分享任何创新的工程解决方案,就像现在一样分享它的数据中心工程。

为收集的用户数据提供更好的安全性。有许多攻击者针对云服务平台获取用户数据访问的例子。Facebook拥有一支庞大而熟练的产品安全团队,说一些正确的话.该团队需要参与功能的设计权衡,而不仅仅是检查接近最终的缺陷设计。关闭基于内部安全分析的功能将是一个明确的信息。

更好的数据安全性,让Facebook看得更少。Facebook几乎窃听了用户生活的方方面面。另一方面,2014年由Facebook购买的WhatsApp为用户提供了端到端的加密信息。虽然Facebook知道谁在给谁发信息,以及发信息的频率,Facebook无法获知这些信息的内容。最近,Facebook宣布计划结合WhatsApp,Facebook信使,和Instagram,扩展WhatsApp的安全性到合并系统。改变路线将是一个戏剧性的负面信号。

从Facebook外部收集的数据更少。Facebook不只是在平台上收集关于你的数据。因为它“像”按钮在很多其他页面上,当你不在Facebook上时,公司可以收集你的数据。它甚至收集它所谓的阴影轮廓“——即使你不是Facebook用户,也要提供关于你的数据。这些数据与公司购买的其他监控数据相结合,包括健康和金融数据。收集和保存较少的这些数据将是公司新方向的一个有力指标。

更好地使用Facebook数据来防止暴力。Facebook少看多做,防止可恨和煽动性言论,两者之间存在着权衡。由于在WhatsApp上传播假消息.如果Facebook在没有端到端加密的情况下控制假新闻方面做得令人信服,然后,我们将听到它如何在元数据中使用模式来处理加密的假新闻。

Facebook如何管理隐私

创建一个基于隐私和信任的团队。公司在哪里花钱会告诉你什么对他们很重要。Facebook有一个庞大而重要的增长团队,但是什么球队,如果有的话,对隐私负责,不是为了遵守或推动规则,但对于工程?相对于其他团队,其人员配置的透明度将会说明问题。

聘请一位负责信任的高级管理人员。Facebook目前的团队专注于增长和收入。它只有一个首席安全官,Alex Stamos未被替换当他在2018年离开时,这可能表明,领导团队中有一位安全倡导者导致了争论和分歧。在执行层为安全和隐私问题保持发言权,在这些问题影响用户之前,是件好事。现在责任已经扩散。目前还不清楚Facebook如何衡量和评估自身的进展,以及谁可能要为失败负责。Facebook可以通过指定一位负责信任的高级执行官开始解决这一问题。

与调节器接合。Facebook的许多故作姿态似乎是为了阻止监管。Facebook将游说者派往华盛顿和其他首都,和直到最近该公司派支持人员到政治家的办公室。它有反对隐私法的秘密游说活动.和Facebook已经多次违反了2011年联邦贸易委员会关于用户隐私的同意令。管理大型技术项目并不容易。大多数了解这些系统工作原理的人之所以了解它们,是因为他们构建了这些系统。社会将监管Facebook,而该条例的质量要求立法者及其工作人员接受真正的教育。虽然企业通常希望避免监管,任何对隐私的关注都需要政府的强有力监督。如果Facebook认真对待隐私是一种真正的兴趣,它将接受政府监管和社区投入。

用户隐私传统上违背了Facebook的核心商业利益。广告是其商业模式,而且有针对性的广告销售得更好,利润也更高——这就要求用户尽可能多地与平台互动。在Facebook上管理宣传和仇恨言论的压力越来越大,很容易导致更多的监视。但另一个方向也有压力,当用户将隐私等同于对自己在平台上表现方式的增强控制时。

我们不希望Facebook放弃其广告业务模式,对垄断统治的松懈,或者从根本上改变其社交网络平台。但是公司可以给用户重要的隐私保护和控制而不放弃监督资本主义.虽然其中一些变化会在短期内降低利润,我们希望Facebook的领导层认识到他们对公司最有利。

Facebook谈论的是社区,让人们聚在一起。这些都是令人钦佩的目标,而且,拥有一个可持续的人际交往平台有着巨大的价值(和利润)。但只要衡量成功最重要的指标是短期利润,帮助加强社区的事情将会被搁置一边。监控,允许单独针对性广告,将优先于用户隐私。愤怒,使参与,将优先考虑归属感。以及公司保密,这使得Facebook可以避开监管机构和用户,将优先于社会监督。如果Facebook现在真的相信后一种选择对其作为一家公司的长期成功至关重要,我们欢迎即将到来的变化。

这篇文章是与亚当Shostack,和最初出现在中一点。我们写了一个相似论文2002年关于判断微软当时对安全的承诺。

发表于3月13日,2019年上午6:51·查看评论

为了公众利益的网络安全

加密战争已经持续了四分之一个世纪。一方面是执法,希望能够破坏加密,获取恐怖分子和罪犯的设备和通信。另一方面,几乎所有的密码学家和计算机安全专家,反复解释说,如果不削弱这些设备和通信系统的每个用户的安全性,就没有办法提供这种能力。

这是一场充满激情的辩论,有时刻薄,但是有一些真正的技术可以解决这个问题:关键的托管技术,代码模糊技术,以及具有不同特性的后门。无处不在的监视资本主义——正如已经在监视所有人的互联网公司所做的那样——很重要。社会的基本安全需求也是如此。提供执法机会有利于安全,即使它不可避免地也总是给别人这种机会。然而,保护这些系统不受所有攻击者的攻击也有安全上的好处,包括执法。这些好处是相互排斥的。哪个更重要,到什么程度呢?

问题是,几乎没有决策者从技术上知情的角度讨论这一政策问题,很少有技术专家真正了解这场辩论的政策轮廓。结果是双方一直在互相交谈,政策建议——偶尔变成法律——是技术灾难。

这是不可持续的,无论是针对这个问题还是关于互联网安全的任何其他政策问题。我们需要了解技术的决策者,但我们也需要了解并参与政策的网络安全技术专家。我们需要公共利益的技术专家。

我们到此为止。福特基金会将公益科技人员定义为“注重社会公正的技术从业者”。共同的利益,和/或公共利益。”最近,一组学者写道,公共利益技术人员是“研究技术专长的应用以促进公共利益的人,创造公共利益,或者促进公共利益。”Tim Berners-Lee称他们为“哲学工程师”。我认为公共利益技术人员是将他们的技术专长与公共利益重点结合起来的人:通过研究技术政策,通过参与一个公益的科技项目,或者作为一个传统的技术专家为一个有公共利益的组织工作。也许这不是最好的术语——我知道不是每个人都喜欢它——但它是一个很好的总括性术语,可以涵盖所有这些角色。

我们需要公众利益的技术专家参与政策讨论。我们需要国会工作人员的帮助,在联邦机构中,在非政府组织(NGO)在学术界,公司内部,作为媒体的一部分。在我们的领域,我们需要他们不仅参与加密战争,但是网络安全和政策之间的任何地方都是相互联系的:脆弱性股票辩论,选举安全,加密货币政策,物联网安全保障,大数据,算法的公平性,敌对的机器学习,关键基础设施,以及国家安全。当你扩大互联网安全的定义时,许多其他领域属于网络安全和政策的交叉点。我们的专业知识和看待世界的方式对于理解许多技术问题至关重要,比如网络中立性和关键基础设施的监管。我不想在没有安全技术专家参与的情况下制定有关人工智能和机器人的公共政策。

公共利益技术并不新鲜。许多组织都在这方面工作,从像EFF和EPIC这样的老机构,到像现在这样的认证投票和访问的新机构。许多学术课程和项目结合了技术和公共政策。我在哈佛大学肯尼迪学院的网络安全政策课就是一个例子。像Markup这样的媒体初创公司正在从事技术驱动的新闻业。甚至在营利性公司内部也有与公共利益技术相关的项目和倡议。

这看起来很像,但事实并非如此。没有足够的人去做,没有足够的人知道这需要做,而且没有足够的地方去做。我们需要建立一个为公共利益技术人员提供可行职业道路的世界。

有很多障碍。有一份题为“关键时刻”的报告,其中引用了这句话:“当我们举出一些有远见的领导和成功部署技术技能的例子时,为了公众利益,人们一致认为,供应不足是一个顽固的循环,需求错位,效率低下的市场阻碍了进步。”

这句话说明了这三个地方需要干预。一:供电侧。只是没有足够的人才来满足最终的需求。尤其是在网络安全方面,这在整个领域都存在人才问题。公共利益技术人员是一个多元化、多学科的群体。他们的背景来自技术,政策,和法律。我们还需要在公共利益技术领域培育多样性;使用该技术的群体必须以形成该技术的群体来表示。我们需要各种各样的方式让人们参与到这个领域中:人们可以从侧面做的方式,在传统技术工作之间的几年里,或者把它作为一份有回报的全职工作。我们需要公共利益技术成为每门核心计算机科学课程的一部分,“诊所”在大学里,学生们可以体验到公共利益工作。我们需要科技公司给人们提供休假来完成这项工作,然后珍惜他们所学到的和所做的。

第二:需求方。这是我们目前最大的问题;没有足够多的组织明白他们需要技术专家来从事公共利益工作。我们需要各种各样的非政府组织为就业提供资金。我们需要整个政府的工作人员:行政人员,立法的,和司法分支。奥巴马总统的美国数字服务应该得到扩展和复制;美国也应该这样做。我们需要更多的新闻机构来完成这类工作。

三:市场。我们需要工作板,会议,以及技能交流——让供应方的人了解需求的地方。

主要的基金会开始在这个领域提供资金:尤其是福特和麦克阿瑟基金会,但其他人也一样。

这一问题与公共利益法领域有着有趣的相似之处。在20世纪60年代,没有公共利益法。这个领域是有意创造的,由福特基金会等组织资助。他们资助了大学的法律援助诊所,让学生们学习住房,歧视,或移民法。他们为美国公民自由联盟和全国有色人种协进会等组织提供奖学金。他们创造了一个重视公共利益法的世界,大型律师事务所的所有合伙人都应该做一些公益工作。今天,当美国公民自由联盟发布招聘律师的广告时,支付三分之一到十分之一的正常工资,它有数百名申请者。今天,20%的哈佛法学院毕业生进入公共利益法,学校也有寻魂研讨会,因为这个比例很低。与此同时,从事公共利益工作的计算机科学毕业生比例基本为零。

这比计算机安全更重要。现在科技以一种不同于几十年前的方式渗透到社会中,政府行动太慢,没有考虑到这一点。这意味着现在的技术人员与他们没有传统联系的所有领域都有联系:气候变化,食品安全,未来的工作,公共卫生,生物工程。

更一般地说,技术人员需要了解他们工作的政策后果。硅谷普遍存在这样一个神话:技术在政治上是中立的。不是,我希望今天读这篇文章的大多数人都知道这一点。我们建立了一个程序员认为他们有一个固有的权利来按照他们认为合适的方式对世界进行编码的世界。我们被允许这样做是因为,直到最近,没关系。现在,太多的问题是在一个不受管制的资本主义环境中决定的,在这种环境中,往往不考虑重大的社会成本。

这就是社会的核心问题所在。20世纪的政治问题是:“什么应该由国家治理,市场应该控制什么?”这就决定了东西方的区别,以及国家内部政党之间的差异。21世纪上半叶的决定性政治问题是:“我们的生活有多少应该由技术来管理,在什么条件下?”上个世纪,经济学家推动公共政策。在本世纪,这将是技术专家。

未来的发展速度快于我们当前的一套政策工具所能应付的。解决这一问题的唯一方法是在技术人员的帮助下开发一套新的策略工具。我们需要在公共利益工作的各个方面,从通知政策到创建工具,所有这些都在构建未来。世界需要我们所有人的帮助。

这篇文章之前发表在IEEE安全与隐私.

和福特基金会一起,我是举办在本周周四的RSA大会上,一个关于公众利益的技术专家的为期一天的小节目。我们已经一些新闻新闻报道.

编辑添加(3/7):更多新闻文章.

发表于3月5日,2019年6点31分·查看评论

区块链与信任

在他的2008白皮书第一个提议比特币,匿名人士中本佐史(SatoshiNakamoto)总结道:“我们已经提出了一个不依赖信任的电子交易系统。”他指的是区块链,比特币加密货币背后的系统。规避信任是一个伟大的承诺,但事实并非如此。是的,比特币消除了信用卡等其他支付系统固有的某些可信中介机构。但你还是要相信比特币——以及它的一切。

写了很多关于blockchains它们是如何移动的,重塑,或消除信任。但当你分析区块链和信任时,你很快就会意识到炒作比价值重要得多。区块链解决方案往往比它们所取代的方案更糟糕。

首先,一个警告。通过链链,我的意思是非常具体的东西:组成a的数据结构和协议公共块链。这有三个基本要素。第一个是分布式(多份)但集中的(只有一份)分类账,这是一种记录发生的事情和顺序的方法。这个分类帐是公开的,意思是任何人都能读到,不变的,这意味着没有人能改变过去发生的事情。

第二个要素是共识算法,这是一种确保所有分类账副本相同的方法。这通常被称为采矿;系统的一个关键部分是任何人都可以参与。它也是分布的,这意味着您不必信任共识网络中的任何特定节点。它也可能非常昂贵,在数据存储和所需能量保持它。比特币拥有世界上最昂贵的共识算法,到目前为止。

最后,第三个要素是货币。这是一种有价值的公开交易的数字代币。货币是区块链中的一个必要元素,以协调所有相关人员的激励措施。涉及这些代币的交易存储在分类账上。

私有区块链完全没有意思。(通过这个,我是指使用区块链数据结构但没有上述三个要素的系统。)一般来说,对于谁可以与区块链及其特性交互,它们有一些外部限制。这些都不是什么新鲜事;它们是分布式的只附加数据结构,其中包含授权添加到其中的个人列表。在分布式系统中,共识协议已经研究了60多年。仅附加的数据结构也同样得到了很好的覆盖。它们只是名义上的区块链,而且——据我所知——运营一家公司的唯一原因是利用区块链的炒作。

公共区块链的所有三个要素结合在一起,成为一个提供新安全属性的单一网络。问题是:它真的有什么用吗?这都是信任的问题。

信任对社会是必不可少的。作为一个物种,人类天生互相信任。没有信任,社会就无法运转,事实上,我们基本上都没有考虑到这一点,这是衡量信任效果的一个指标。

“信任”这个词有很多含义。有个人和亲密的信任。当我们说我们信任一个朋友时,我们的意思是,我们相信他们的意图,并且知道这些意图将告知他们的行动。还有不那么亲密的,更少的个人信任——我们可能不认识某个人,或者知道他们的动机,但我们可以相信他们未来的行动。区块链使这种信任成为可能:我们不认识任何比特币矿商,例如,但我们相信他们将遵循挖掘协议,使整个系统工作。

大多数区块链爱好者对信任的定义都非常狭隘。他们喜欢这样的流行语在我们信任的代码中,"“在数学上我们信任,"和“我们信任的加密技术”。这是作为验证的信任。但是验证和信任不同。

2012,我写了一本关于信任和安全的书,骗子和局外人.在里面,我列举了四种我们物种用来激励值得信赖的行为的非常普遍的系统。前两个是道德和名誉。问题是,它们只能扩展到一定的人口规模。原始制度对小社区来说已经足够好了,但更大的社区需要授权,更多的形式主义。

第三是制度。机构有规则和法律引导人们按照群体规范行事,对不这样做的人实施制裁。从某种意义上说,法律使名誉正式化。最后,第四个是安全系统。这些是我们使用的各种各样的安全技术:门锁和高栅栏,报警系统和防护装置,取证和审计系统,等等。

这四个要素共同作用,使信任成为可能。以银行业为例,为例。金融机构,商人,个人都关心自己的声誉,防止盗窃和欺诈。围绕银行业方方面面的法律法规让每个人都循规蹈矩,包括在欺诈案件中限制风险的后盾。有很多安全系统,从防伪技术到互联网安全技术。

在他2018年的书中,区块链与新的信任架构,Kevin Werbach概述了四种不同的“信任架构”。首先是对等信任。这基本上符合我的道德和声誉体系:一对相互信任的人。第二个是利维坦信托公司,与机构信托相对应。你可以在我们的合同体系中看到这一点,这使得互不信任的双方能够达成协议,因为他们都相信政府体系将有助于解决争端。第三个是中间信托。信用卡系统就是一个很好的例子,这使得不可靠的买卖双方可以从事商业活动。他的第四个信任体系结构是分布式信任。这是对特定安全系统(即区块链)的紧急信任。

区块链所做的是转移一些信任在人们和机构中信任技术。你要相信密码术,协议,软件,计算机和网络。你必须绝对信任他们,因为它们往往是单一的失败点。

当这种信任被证明是错误的时候,没有追索权。如果你的比特币兑换被黑客攻击,你失去了所有的钱。如果你的比特币钱包被黑客攻击,你失去了所有的钱。如果忘记了登录凭证,你失去了所有的钱。如果有代码中的错误你的智能合约,你失去了所有的钱。如果有人成功了入侵区块链安全系统,你失去了所有的钱。在许多方面,信任技术比信任人更难。你是愿意相信人类的法律体系,还是相信一些你不具备审计专业知识的电脑代码的细节?

区块链的狂热者指出了更为传统的信托形式——银行手续费,例如——同样昂贵。但区块链的信任也很昂贵;成本只是隐藏的.比特币,这是额外开采比特币的成本,交易费用,以及巨大的环境浪费。

区块链并没有消除对人类机构的信任。总有一个巨大的差距,单凭技术是无法解决的。人们仍然需要负责,而且总是需要在系统之外进行治理。这在正在进行的辩论中是显而易见的改变比特币块大小,或在修复DAO攻击反对以太.总是需要推翻规则,而且总是需要有能力做出永久性的规则改变。只要硬分叉是一种可能性——也就是当负责区块链的人走出系统去改变它的时候——人们就需要负责。

任何区块链系统都必须与其他系统共存,更传统的系统。现代银行业,例如,设计为可逆。比特币不是。这使得两者很难兼容,结果往往是不安全。史蒂夫沃兹尼亚克从7万美元中捞出来因为他忘了这个。

区块链技术通常是集中式的。比特币理论上可能基于分布式信任,但实际上,这不是真的。几乎所有使用比特币的人都必须信任少数几个可用的钱包中的一个,并使用少数几个可用的兑换货币中的一个。人们必须信任软件、操作系统和所有运行的计算机。我们还看到了针对钱包和交易所的攻击。我们已经看到特洛伊木马、网络钓鱼和密码猜测。犯罪分子甚至利用人们用来修理手机偷比特币的系统缺陷。

此外,在任何分布式信任系统中,有一些后门方法可以让集中化悄悄溜进来。比特币,只有几个重要的矿工。有一家公司提供大部分的采矿五金.只有少数几个主要的交易所。在大多数人与比特币互动的程度上,通过这些集中的系统。这也允许对基于区块链的系统进行攻击。

这些问题不是当前区块链应用程序中的漏洞,它们是区块链工作方式的固有特征。对系统安全性的任何评估都必须考虑到整个社会技术系统。太多的区块链爱好者关注这项技术,而忽略了其他的。

如果人们不使用比特币,因为他们不相信比特币。这与密码学或协议无关。事实上,如果你忘记了你的钥匙或者下载了一个恶意软件,那么你可能会失去你的生活储蓄的系统就不是特别值得信赖了。无法解释SHA-256如何预防双重支出会解决这个问题。

同样地,就人们使用区块链的程度而言,因为他们信任他们。人们要么拥有比特币,要么不以信誉为基础;即使对于那些仅仅因为认为比特币能让他们迅速致富而持有比特币的投机者来说也是如此。人们选择钱包作为他们的加密货币,交换交易,基于声誉。我们甚至根据算法的声誉评估和信任支持区块链的加密技术。

看看这怎么可能失败,看看各种各样的供应链安全系统正在使用区块链。区块链不是其中任何一个的必要特征。他们成功的原因是每个人都有一个单一的软件平台来输入他们的数据。即使区块链系统建立在分布式信任之上,人们不一定接受这一点。例如,一些公司不信任IBM/Maersk系统因为它不是他们的块链。

不合理的?也许吧,但信任就是这样运作的。它不能被算法和协议取代。它比那更具社会性。

仍然,区块链可以以某种方式消除对信任的需求,这种想法仍然存在。最近,我收到了一家公司的电子邮件,该公司使用区块链实现了安全消息传递。它说,部分:“使用区块链,正如我们所做的,消除了对信任的需求。”这种观点表明,作者误解了区块链的作用和信任的工作方式。

你需要一个公共区块链吗?答案几乎是肯定的没有.区块链可能无法解决您认为它解决的安全问题。它解决的安全问题可能不是您所遇到的问题。(操纵审计数据可能不是你的主要安全风险。)对区块链的错误信任本身就是安全风险。效率低下,尤其是在缩放时,可能不值得。我看过很多区块链应用程序,所有这些都可以在不使用区块链的情况下实现相同的安全属性——当然,那他们就不会有这么酷的名字了。

说真的?加密货币是无用的。它们只被寻找快速财富的投机者使用,不喜欢政府支持的货币的人,以及那些想通过黑市的方式来交换金钱的罪犯。

要回答是否需要区块链的问题,问问自己:区块链是否以任何有意义的方式改变了信任系统,或者只是转移一下?它只是试图用验证来取代信任吗?它是否加强了现有的信任关系,还是试图与他们作对?在新制度下,如何滥用信任,这是比旧制度中潜在的滥用更好还是更糟?最后:如果你根本不使用区块链,你的系统会是什么样子?

如果你问自己这些问题,很可能你会选择不使用公共区块链的解决方案。这将是一件好事——尤其是当炒作消散的时候。

本文以前出现过在WiReff.com上。

编辑添加(2/11):评论在我的论文。

我想写这篇文章已经一年多了。我最终这么做的动力来自一次受邀在纽约大学演讲超级账本全球论坛12月。这篇文章是我为那个活动写的演讲的一个版本,使普通观众更容易接近。

这似乎是区块链收购的季节。James Waldo报道优秀散文在队列中。尼古拉斯·韦弗说话在“谜”会议上,总结在这里.它是。的缩写这次谈话.

编辑添加(2/17):编辑线程.

编辑添加(3/1):更多文章。

发布于2月12日,2019年6点25分·查看评论

公共利益技术在RSA会议上

我们在网络安全方面的工作与公共政策和(更广泛地说)公共利益密切相关。很明显,在关于加密和漏洞披露的辩论中,但这也是有关物联网政策讨论的一部分,cryptocurrencies,人工智能,社会媒体平台,以及几乎所有与之相关的东西。

我们传统技术领域的这种社会维度正带来对公共利益技术人员的需求。

定义这个术语是困难的。一博客帖子将公益技术专家描述为“关注社会正义的技术从业者,共同的利益,和/或公共利益。”该领域的一组学者写道:“公共利益技术是指研究和应用技术专门知识来促进公共利益/产生公共利益/促进公共利益。”

我认为公共利益技术专家是将他们的技术专长与公共利益焦点结合起来的人,要么为EFF工作,要么作为国会工作人员,例如,从事具有公共利益的技术项目(如Tor或Signal);或者作为一个更传统的技术专家为一个关注公共利益的组织工作(为人权观察提供IT安全,作为一个例子。公共利益技术不是一回事;这是很多东西。不是每个人都喜欢这个词。也许这不是对不同的人所做事情最准确的说法,但它是涵盖所有人的最好的总称。

这是一个不断增长的领域——一个比网络安全更广泛的领域——也是一个我越来越关注的领域。我维持一个资源页面公共利益技术。(这个是了解当前公共利益技术状况的最佳文件,还有什么事要做。)

今年,我将把这些想法带到RSA会议上.在伙伴关系福特基金会,我正在主持一个关于公共利益技术的小型节目。星期四一天的六次会议将强调这项重要工作的不同方面。我们来看看政府内部的公共利益技术人员,作为公民社会的一部分,在大学里,在公司环境中。

  1. 公共利益技术人员如何改变世界.这个介绍性小组为未来的一天奠定了基础。我将和战术技术部的马特·米切尔一起上台,我们将讨论公共利益技术人员如何改变世界。
  2. 硅谷公益科技.我们大多数人都在科技公司工作,这个小组讨论公司内部的公共利益技术工作。Mozilla公司的Mitchell Baker。EFF的辛迪·科恩将主持讨论,关注公司内部的公共利益项目和公司员工的积极行动计划。
  3. 在民间社会工作。将技术视角引入公民社会可以改变组织的工作方式。通过一系列闪电谈话,本届会议将从多个角度探讨这种转变是如何发生的:揭露政府监控,保护世界各地的记者,维护一个自由开放的互联网,将安全焦点引入人工智能研究,保护非政府组织网络,和更多。对于我们这些安全的人来说,把技术工具带给那些需要它们的人是我们工作的核心。
  4. 政府需要你。政府需要各级技术人员。我们需要立法人员和监管机构来制定有效的技术政策,但我们也需要在其他地方更广泛地实施政策。我们需要为法庭提供建议在听证会上作证,并在咨询委员会任职。在这次会议上,你会听到来自公众利益的技术专家,他们从不同的职位对政府产生了重大影响,了解如何参与其中。
  5. 改变学术界。高等教育需要将公共利益的观点纳入技术部门,以及公共政策部门的技术视角。这看起来像是计算机科学专业的伦理学课程,为法律系学生编写程序,或者结合了技术和社会科学的联合学位。麻省理工学院的丹尼·魏茨纳和哈佛大学的拉塔尼亚·斯威尼将讨论如何努力建设这些跨学科的课程,项目,和研究所。
  6. 公共利益技术的未来创造一个公共利益技术能够蓬勃发展的环境需要一条强有力的管道:更多的人想要进入这个领域,他们可以去更多的地方,以及一个供求相匹配的市场。在本次闭幕会议上,福特基金会的珍妮·图米和我将总结这一天,并讨论该领域未来的发展方向,资金的轨迹,突出突出突出突出的需求和差距,并描述如何参与其中。

检查在这里对于时间和地点,一定要预订座位。

我们都需要帮助。我的意思并不是说我们都需要辞职,去做立法人员;在维持现有职业生涯的同时,我们可以做很多事情。我们可以为政府和其他公共利益组织提供建议。我们可以在为之工作的公司内部为公众利益而鼓动。我们可以在会议上发言,撰写意见稿供发表。我们可以在不同程度上兼职教学。但我们中的一些人需要做全职工作。

有一个有趣的平行公共利益法,它涵盖了从人权律师到公共辩护人的一切。在20世纪60年代,那个领域并不存在。这个领域是有意创造的,由福特基金会等组织资助。他们创造了一个重视公共利益法的世界。今天,当美国公民自由联盟发布招聘律师的广告时,支付正常工资的三分之一到十分之一,它有数百名申请者。今天,20%的哈佛法学院毕业生进入了公共利益法领域,而从事公益性工作的计算机科学毕业生的比例基本为零。这就是我们需要解决的问题。

请到我的迷你音轨停一下。来参加一个你感兴趣的小组或者呆一整天。带上你的想法。找我进一步谈谈。本世纪几乎所有的重大政策辩论都将包含强大的技术成分——以及一个重要的网络安全视角——我们都需要参与其中。

本文最初出现在RSA会议博客上。

福特基金会的迈克尔·布伦南说还写道一篇关于这件事的文章。

2月1日发布,2019年上午9:48·查看评论

评估GCHQ例外访问建议

所谓的加密战争正在进行25年现在。基本上,联邦调查局和他们在英国的一些同行机构,澳大利亚和其他地方。争论民用加密的广泛使用阻碍了他们解决犯罪的能力,他们需要科技公司使他们的系统易受政府窃听的影响。有时他们抱怨的是通信系统,比如语音或信息应用程序。有时是关于终端用户设备。另一方面,几乎所有从事计算机安全和密码学工作的技术人员,谁争论增加窃听功能从根本上降低了这些系统的安全性。

最近这场辩论的一个条目是建议伊恩·利维和克里斯平·罗宾逊,都来自英国GCHQ(英国信号情报局——基本上,它的国家安全局)。这实际上是对后门话题的积极贡献;大多数时候,政府官员普遍要求科技公司想出办法为了满足他们的要求,不提供任何细节。利维和罗宾逊写道:

在加密服务的世界里,一个潜在的解决方案可能是回到几十年前。对于服务提供商来说,悄悄地将执法参与者添加到群聊或呼叫中相对容易。服务提供者通常控制身份系统,因此真正决定谁是谁以及涉及到哪些设备——他们通常涉及到向各方介绍聊天或呼叫。最终所有的东西仍然是端到端加密的,但这种特殊的交流还有一个额外的“结束”。这种解决方案似乎并不比我们民主选举的代表和司法部门今天通过传统的语音拦截解决方案授权的虚拟鳄鱼剪辑更具侵入性,当然也不会赋予他们不应该拥有的任何政府权力。

从表面上看,这不是什么大问题。它不会影响保护通信的加密。它只影响确保与之交谈的人的身份验证。但后门的危险性不亚于任何其他被提议的后门:它利用安全漏洞而不是修复它,它使系统的所有用户都可以被其他人利用相同的漏洞。

在博客文章中,密码学家马修·格林总结这个GCHQ提案的技术问题。基本上,使这种后门工作不仅需要改变监控通信的云计算机,但这也意味着改变每个人的电话和电脑上的客户程序。这一变化使得所有这些系统的安全性降低。利维和罗宾逊非常清楚,他们的后门只针对特定的个人和他们的沟通,但它仍然是一个一般后门那个可以被用来对付任何人。

基本的问题是,后门是一种技术能力——一种漏洞——对任何知道并有权访问它的人都是可用的。围绕该漏洞的是一个过程系统,它试图限制对该功能的访问。计算机,尤其是互联网连接的计算机,本质上是可删节,限制任何程序的有效性。最好的防御就是完全不受伤害。

老的物理窃听系统利维和罗宾逊暗示也利用了一个安全漏洞。因为电话通话在通过电话系统的物理线路时是未加密的,警方能够在电话公司的设施或街道上的接线盒中找到一个开关,手动将鳄鱼夹连接到特定的一对上,然后监听电话的传输和接收情况。这是一个任何人都可以利用的弱点——不仅仅是警察——但由于电话公司是一个整体垄断的事实而有所缓解,而且,要想真正接触到这些电线,要么很困难(在电话公司大楼里),要么很明显(在街上的接线盒旁)。

1994年美国提出的一项要求是,对现代计算机电话交换机进行物理窃听的功能相当于该法被称为calea——在其他国家也有类似的法律。按法律规定,电话公司必须设计出政府可以窃听的电话交换机,用计算机镜像旧的物理系统。这不是一回事,不过。它没有那些使它更安全的物理限制。它可以远程管理。它是由计算机实现的,这使得它很容易受到其他电脑同样的黑客攻击。

这不是理论问题;这些系统已经被颠覆了。最多的公共事件2004年在希腊。沃达丰希腊有电话交换机,其窃听功能由卡莱亚授权。它在希腊电话系统中默认关闭,但是国家安全局设法秘密地打开它并利用它窃听希腊总理和其他100多位高级政要。

电话交换机与其他现代加密语音或聊天系统没有什么区别;任何远程管理的后门系统都同样容易受到攻击。想象一下一个聊天程序添加了这个GCHQ后门。它必须添加一个特性,从系统中的某个地方为聊天添加更多的参与方,而不是由端点的人员添加。它必须禁止任何向用户发出通知的消息,提醒其他人加入聊天。因为一些聊天程序,就像我的信息和信号,自动发送这样的消息,这将迫使这些系统向用户撒谎。其他系统永远不会实现“告诉我谁在这个聊天对话中”功能-相当于相同的东西。

一旦到位,每一届政府都会为了自己的目的而试图黑掉它——就像美国国家安全局(NSA)黑掉沃达丰希腊分公司(Vodafone Greece)一样。再一次,这不是什么新鲜事。在2010年,中国成功破解了谷歌的后门机制就位满足执法要求。在2015年,有人——我们不知道是谁--入侵了国安局的后门在用于创建加密密钥的随机数生成器中,更改参数以便他们也可以窃听通信。当然还有其他的故事没有公开。

仅仅添加这个特性就会削弱公众的信任。如果你是一个极权主义国家的持不同政见者,想要安全地交流,您想使用已知具有这种后门的语音或消息系统吗?你赌谁?尤其是当输掉赌注的代价可能是监禁或更糟的时候:运行系统的公司,还是你们国家的政府情报机构?如果你是政府高级官员,或者一家大型跨国公司的负责人,或者安全经理或电厂的关键技术人员,你想用这个系统吗?

当然不是。

两年前,有一个谣言一个什么样的后门。这个细节复杂的,称之为后门或漏洞主要地不准确的--但由此产生的混乱导致一些人放弃了加密的消息服务。

信任是脆弱的,和透明度信任是必不可少的。尽管Levy和Robinson指出,“任何例外的访问解决方案都不应该从根本上改变服务提供商与其用户之间的信任关系。”这项提议正是如此。通信公司再也不能诚实地说出他们的系统在做什么,如果他们尝试了,我们就没有理由相信他们。

最后,所有这些特殊的访问机制,无论是利用应该关闭的现有漏洞还是迫使供应商打开新漏洞,降低底层系统的安全性。它们减少了我们对安全技术的依赖,我们知道如何做得很好——密码术——对我们不太擅长的计算机安全技术。更糟的是,他们用组织程序取代技术安全措施。无论是一个可以解密iPhone的主密钥数据库,还是一个可以协调与谁安全聊天的通信交换机,它容易受到攻击。它会被攻击。

上述讨论是我们需要进行更广泛讨论的一个具体例子,这是关于攻击/防御平衡。我们应该优先考虑哪一个?我们是否应该设计我们的系统,使其易于受到攻击,在哪种情况下,它们可以被执法人员利用——以及其他人?或者我们应该设计尽可能安全的系统,这意味着他们可以更好地免受黑客的攻击,罪犯,外国政府以及(不可避免的)执法部门?

这一讨论比联邦调查局解决犯罪的能力或国家安全局的间谍能力更重要。我们知道,外国情报机构的目标是我们当选官员的通讯,我们的电力基础设施,以及我们的投票系统。我们真的想让某个外国像美国国家安全局(NSA)侵入希腊一样,侵入我们的合法后门吗?

我一直认为我们需要采用a国防主导战略:我们应该优先考虑我们对安全的需要,而不是监视的需要。在……的新世界尤其如此具有物理能力的计算机.是的,这将意味着执法部门将难以窃听通信和解锁计算设备。但是执法部门其他法医技术在高度网络化的世界中收集监视数据。我们会过得更好提高执法技术能力调查…的犯罪现代的数字世界而不是削弱每个人的安全。偷偷地将幽灵用户添加到会话中的能力是一个弱点,我们最好关闭它,而不是利用它。

本文最初出现在法兰西网站上。

编辑添加(1/30):更多评论.

发表于1月18日,2019年上午5:54·查看评论

机器学习检测软件漏洞

没有人怀疑人工智能和机器学习会改变网络安全。我们只是不要知道怎样.尽管文献通常关注攻击者和防御者对人工智能的不同使用,以及由此导致的两人之间的军备竞赛,但我想谈谈软件漏洞。

所有软件都包含错误。原因基本上是经济的:市场不想为高质量的软件买单。除了一些例外,比如航天飞机,市场优先考虑快速和廉价,而不是好的。结果是,任何大型现代软件包都包含数百或数千个bug。

有些bug也是漏洞,其中一部分是可利用的漏洞,这意味着知道它们的攻击者可以以某种方式攻击底层系统。其中的一部分被发现和使用。这就是为什么你的电脑和智能手机软件不断被修补的原因;软件供应商正在修复漏洞,这些漏洞也是已经发现并正在使用的漏洞。

如果软件供应商在设计和开发过程中发现并修复所有错误,一切都会更好。但是,正如我所说的,市场不会奖励这种延迟和花费。人工智能,尤其是机器学习,有可能永远改变这种平衡。

查找软件漏洞的问题似乎非常适合ML系统。一行一行地通过代码只是计算机擅长的一种繁琐的问题,如果我们能教他们脆弱是什么样子。这是一个挑战,当然,但是有已经健康的数量属于学术文学关于这个话题——研究持续的.随着时间的推移,我们完全有理由期望ML系统在这方面有所改善,有理由相信他们最终会变得非常擅长。

发现漏洞对攻击者和防御者都有好处,但这不是一场公平的战斗。当攻击者的ML系统发现软件中存在漏洞时,攻击者可以使用它来破坏系统。当防御者的ML系统发现同样的漏洞时,他或她可以尝试修补系统或程序网络防御,以监视和阻止试图利用它的代码。

但是,当同一个系统在软件开发人员手中时,他们在软件发布之前使用该系统发现漏洞,开发人员修复了它,这样它就永远不会在第一时间被使用。ML系统很可能是他或她的软件设计工具的一部分,在代码还在开发的时候就会自动发现和修复漏洞。

在未来十年左右快速前进。我们可能会对彼此说,“记住那些年软件漏洞是一回事,在每个编译器内置ML漏洞查找器并在软件发布之前修复它们之前?真的,那是疯狂的岁月。”这不仅是未来的可能,但我敢打赌。

从这里到那里将是一段危险的旅程,不过。这些漏洞查找器将首先释放在现有软件上,在真实世界的攻击中,给攻击者提供数百甚至数千个漏洞。肯定的是,防御者可以使用相同的系统,但今天的很多物联网系统没有编写补丁的工程团队,也没有下载和安装补丁的能力。结果是攻击者可以找到并使用数百个漏洞。

但是如果我们看得足够远,我们可以看到未来软件漏洞都是过去的事了。那我们就得担心什么了新的和更高级的那些人工智能系统提出的攻击技术。

本文以前出现过在securityintelligence.com上。

发表于1月8日,2019年上午6:13·查看评论

宣传和对政府信任的削弱

11月4日2016,黑客“Guccifer2.0”俄罗斯军事情报部门的前线,声称在一篇博客文章中,民主党人很可能利用漏洞攻击总统选举。11月9日,2018年,唐纳德·特朗普总统开始在推特上谈论佛罗里达州和亚利桑那州的参议员选举。没有任何证据,他说民主党人正试图这么做窃取选举权通过“欺诈”。

网络安全专家会说像Guccifer2.0这样的帖子意在破坏公众对投票的信心:对美国民主制度的网络攻击。然而,唐纳德·特朗普的行为对民主造成了更大的破坏。到目前为止,他关于这个话题的微博被转发了27万多次,削弱信心的效果远远超过任何一场外国影响运动。

我们需要新的想法来解释互联网上的公开声明如何削弱美国的民主。今天的网络安全不仅与计算机系统有关。它还涉及攻击者如何利用计算机系统操纵和破坏公众对民主的期望。我们不仅需要反思对民主的攻击;我们还需要重新考虑攻击者。

这是我们为什么要写新研究论文它运用计算机安全的思想来理解民主与信息的关系。这些想法有助于我们理解破坏对民主机构或辩论信心的攻击。

我们的研究表明,来自美国政治内部的内部攻击比来自其他国家的攻击更有害。它们更复杂,使用难以防御的工具,并导致严酷的政治权衡。当俄罗斯控制机构攻击其民主制度时,美国可以威胁指控或实施制裁。但当袭击者是美国总统时,它能使用什么样的惩罚呢?

考虑网络安全的人是建立在冷战时期国家间对抗的基础上的。像托马斯谢林这样的知识分子发展了威慑理论,这就解释了为什么美国和苏联可以在不发动战争的情况下,通过策略来限制对方的选择。威慑理论,以及相对容易攻击和防御的相关概念,似乎解释了美国和竞争对手面临的权衡,当他们开始使用网络技术来探测和危害彼此的信息网络时。

然而,这些想法没有承认冷战和今天的一个关键区别。几乎所有的州——无论是民主的还是独裁的——都在互联网上纠结。这既创造了新的紧张局势,也创造了新的机遇。美国认为互联网将有助于传播美国的自由价值观,这是一件好事,毫无争议。俄罗斯和中国等不自由的国家担心,互联网自由是对它们自己的统治体系的直接威胁。该政权的反对者可能会利用社交媒体和在线交流来协调他们之间的关系,并呼吁更广泛的公众,也许推翻他们的政府,就像阿拉伯之春发生在突尼斯一样。

这导致狭隘的国家在国内发展了新的防御措施,以防止开放的信息流动。学者喜欢莫莉罗伯茨已经表明,像中国和俄罗斯这样的国家发现了如何“泛滥”网上讨论充斥着废话和干扰,使对手不可能互相交谈,甚至区分真假。这些洪水技术稳定了独裁政权,因为他们挫败了政权的反对者,使他们感到困惑。自由主义者经常争辩说,最好的解决坏话的方法是多说话。弗拉基米尔•普京(Vladimir Putin)发现,应对更多言论的最佳解药是糟糕的言论。

俄罗斯将阿拉伯之春和鼓励其邻国民主的努力视为直接威胁,开始尝试反攻技术。当亲俄的乌克兰政府因民众抗议而垮台时,俄罗斯试图破坏新的稳定,通过入侵选举结果公布系统来实现民主选举。这个明确意图是通过公布虚假的投票数字来败坏选举结果的声誉,这将使公众的讨论陷入混乱。

这次对公众对选举结果的信心的攻击在最后时刻被挫败了。即便如此,它为一种新型的攻击提供了模式。黑客不需要秘密改变人们的选票来影响选举。他们所要做的就是破坏公众对选票被公平计算的信心。当研究人员争论过,简而言之,攻击者可能不在乎谁赢了;输的一方认为选举被偷走了,如果不是更多,有价值。”

这两种攻击——“洪水”旨在破坏公众舆论的攻击,和“信心”旨在破坏公众对选举信心的袭击在2016年针对美国进行了武器化。俄罗斯社交媒体上的喷子,受雇于“互联网研究机构”,网上政治讨论充斥着谣言和反谣言,以制造混乱和政治分裂。彼得·波梅兰采夫描写在俄罗斯,“有一刻[普京的媒体向导]苏尔科夫将资助公民论坛和人权非政府组织,接下来,他将悄悄地支持那些指责非政府组织是西方工具的民族主义运动。”同样地,俄罗斯巨魔试图让黑生命物质抗议者和反黑生命物质抗议者同时进行游行。制造冲突和混乱。Guccifer2.0的博客帖子肯定是想破坏人们对投票的信心,在希拉里克林顿赢得选举后,为更广泛的不稳定运动做准备。普京和其他人都没有预料到特朗普会获胜,带来更大范围的混乱。

我们不知道这些攻击有多成功。一新书John Sides迈克尔•特斯勒(Michael Tesler)和林恩•瓦夫雷克(Lynn Vavreck)认为,俄罗斯的努力没有可衡量的长期后果。详细研究关于Yochai Benker通过社会媒体传播的新闻文章,Robert Farris哈尔·罗伯茨同意,表明福克斯新闻在传播虚假新闻中的影响力远远超过俄罗斯的任何努力。

然而,像俄罗斯这样的全球对手并不是唯一可以利用洪水和信心攻击的行动者。美国演员也可以使用同样的技术。的确,他们可以更好地使用它们,因为他们对美国政治有了更好的理解,更多资源,如果不提出第一修正案的问题,政府就很难应对。

例如,当联邦通信委员会要求就其废除“网络中立”的提议发表意见时,它是被虚假评论淹没支持该提案。几乎每一个评论的真人支持网络中立但他们的论点被一股虚假言论淹没了,据称这些言论是从色情网站上窃取的身份信息造成的,他们的姓名和电子邮件地址是未经允许而被获取的,而且,在某些情况下,从死者那里.这不仅仅是为了给FCC有争议的提议制造虚假的支持。这是贬低公众评论的价值,使公众对网络中立性的支持在政治上无关紧要。联邦通信委员会在网络中立性等问题上的决策过去是由行业内部人士主导的,许多人想回到旧政权。

特朗普试图削弱人们对佛罗里达州和亚利桑那州选票的信心的努力在更大范围内发挥作用。在不存在欺诈的情况下,主张欺诈有明显的短期利益。这可能会影响法官或其他公职人员向共和党做出让步,以维护他们的合法性。但从长远来看,它们也会破坏美国民主的稳定。如果共和党人确信民主党人通过欺骗获胜,他们会感觉到自己对系统的操纵(通过清除选民名单,使投票更加困难等等)是合法的,而且很可能在未来更公然地欺骗。这将摧毁集体机构,让每个人都更糟。

值得注意的是,到目前为止,包括玛莎·麦克萨利在内的一些亚利桑那州共和党人在白宫和共和党全国委员会的压力下仍然坚定地宣称正在发生欺骗行为。他们大概认为保护现有机构比破坏现有机构更具长期价值。非常振振有词,唐纳德·特朗普的动机正好相反。通过削弱公众对今天投票的信心,如果他在2020年被击败的话,他更容易声称有欺诈行为,并可能使美国政治陷入混乱。

如果认为俄罗斯洪水和信任措施是对美国民主的网络攻击的专家是正确的,然后,当这些攻击被国内演员使用时,它们也同样危险,甚至可能更危险。风险在于,随着时间的推移,他们将动摇美国的民主,使其更接近俄罗斯的管理民主——在那里,再也没有什么是真实的了,普通人会有一种偏执的感觉,当他们想到政治时感到无助和厌恶。似是而非的,俄罗斯的干涉太无效了,不能让我们到那里去——但美国所有政治行动者都可能在国内发动攻击。

为了防止这种可能性,我们需要开始更系统地思考民主与信息之间的关系。我们的论文提供了一种方法,强调民主对于某些信息攻击的脆弱性。更一般地说,我们需要修建防洪堤坝,同时增强公众对投票和其他民主所必需的公共信息系统的信心。

首先,我们可能需要彻底改变监管社交媒体公司的方式。现代化政府的评论平台,使它们能够抵御洪水,这只是很小的第一步。直到最近,像Twitter这样的公司已经从机器人泛滥中赢得了市场优势——即使它无法盈利,用户数量似乎在增长。像马克·扎克伯格这样的首席执行官开始担心民主,但他们的担忧可能只会持续这么久。当一个人的商业模式依赖于不理解某件事时,他很难理解这件事。对自动账户的严格限制(并且在法律上可强制执行)是第一步。对网络和趋势指标进行彻底的重新设计,以降低洪水攻击的有效性可能是第二次。

第二个要求联邦一级投票的一般标准,以及宪法对投票权的保障。技术专家几乎普遍支持将纸质记录与随机选举后审计相结合的稳健投票系统,防止欺诈,确保公众对投票的信心。其他确保适当选票设计的步骤,标准化的计票和报告将需要更多的时间和讨论——然而,其他国家的记录表明,这并非不可能。

在主要民主国家中,美国在选举机制的持续缺陷方面几乎独树一帜。然而,投票并不是民主信息的唯一重要形式。明显的努力故意歪斜美国反对统计非法移民的人口普查显示,如果民主能够正常运作,我们需要对政治信息系统进行更全面的审计。

通过制裁回应俄罗斯黑客更容易,反击和类似的国内政治攻击,破坏美国的民主。为了维护民主的基本政治自由,需要认识到这些自由有时会被唐纳德·特朗普等政治家滥用。我们所能做的最好的事情是尽量减少滥用的可能性,直到滥用侵犯了基本自由,并加强了保障民主信息不受旨在破坏民主信息的攻击的一般机构。

本文与亨利·法雷尔合著,和以前出现过在主板上,一个可怕的标题,我无法改变。

11月27日发布,2018年上午7:43·查看评论

乔·麦金尼斯的布鲁斯·施耐尔侧边栏照片。

施耐尔的安全是一个个人网站。betway88必威官网备用所表达的意见不一定是…的意见IBM弹性.