1926年1月20日，奥尔森降生在美国康涅狄格州布里奇波特(Bridgeport)。他在出生地附近的小城斯特拉福德(Stratford)度过了童年。他的父亲从事机床设计工作，奥尔森和他的兄弟们常常花费数小时在地下室中摆弄那些机械。“二战”期间，奥尔森进入美国海军开办的电子仪器学校读书，在那里他学会了雷达、声纳和导航系统的维护方法。随后，他进入麻省理工学院，专攻工程学，先后获得学士和硕士学位。
大学期间，奥尔森在麻省理工学院的林肯实验室工作。该实验室创办于1951年，拥有联邦政府的资助，负责研发防空系统所需的技术。奥尔森的职责之一是代表实验室与IBM的联络，而后者是该研究项目的主要承包商。奥尔森还参与了TX-2计算机的研发，而这台设备在计算机辅助作图领域取得突破性成果。
1957年，奥尔森利用从风投机构American Research and Development获得的7万美元资金，与大学校友哈伦·安德森(Harlan Anderson)一起创办了DEC。
1965年，DEC推出了一款划时代的产品——PDP-8，迅速成为其他公司搭建计算机系统的基础构件，小型机产业从此登上科技舞台。这种性能强劲、体积与电冰箱类似的计算机面向的是不需要大型机的科学家、工程师及其他专业人士。
DEC随后推出的PDP-11和VAX系列机型给人们提供了除IBM大型机之外的另一种选择。到了二十世纪八十年代中期，其他许多企业也开始进军小型机市场。DEC还率先利用网络技术将其计算机相连接，使全球各地的DEC工程师可以开展几乎没有延迟的通讯。它在这一时期达到辉煌顶点，成为全球第二大计算机厂商，仅次于IBM。
DEC的小型机使计算机脱离了大型企业的玻璃房，不再需要穿着白大褂的专业人员，进驻中小企业甚至家庭。“我们制造的计算机使计算成本和体积降低了一个级别。”贝尔说。
DEC小型机还培育和影响了科技产业中的未来明星。微软联合创始人比尔·盖茨和保罗·艾伦(Paul Allen)使用PDP-10开发了首款BASIC编程语言。曾为DEC开发多款操作系统的戴夫·卡特勒(Dave Cutler)则为微软开发了Windows NT和Azure操作系统。
多年以来，DEC凭借顶尖技术实现了快速增长，并培养了品牌忠诚度。奥尔森曾要求销售人员不要销售那些消费者不需要的产品，并以“酒香不怕巷子深”为由，逐渐放弃传统广告，但增长仍在继续。
1986年，《财富》杂志将奥尔森评为“美国最成功的企业家”。到二十世纪八十年代末，DEC在全世界拥有超过12万名雇员。它的销售额在1992年达到有史以来最高的140亿美元。
麻省理工学院斯隆管理学院名誉教授埃德加·施恩(Edgar Schein)称，奥尔森拥有一套独特的管理哲学。他的企业文化重视创造力、独创性和开放沟通。尽管他脾气火爆，对工作要求苛刻，但他的雇员拥有极大自由，得到极高尊重。
DEC前高级副总裁文·亨德尔(Win Hindle)说：“奥尔森创立的公司鼓励创新，奖励有好创意的人。”此外，奥尔森痛恨裁员，即使在公司面临困境时，也坚持不让任何一个员工下岗。
但到了1990年代，DEC开始走下坡路。该公司未能意识到个人PC和企业工作站的价值，也不能接受从专利技术到开放系统的市场变革，包括使用英特尔微处理芯片的PC和搭载Unix操作系统的通用服务器。
奥尔森曾在1977年预言：“没有理由让所有人在家里保有一台计算机。”但他后来坚称，这句话脱离了上下文背景，而他不过是想表达难以想象有一天计算机将主宰人们的生活。“奥尔森仍然笃信创新，而市场已经演化为商品市场。”施恩说，“人们需要更简单、更便宜的桌面电脑，DEC却仍在面向技术市场生产复杂设备。”
尽管DEC后来推出一系列PC，试图挽回市场份额，但为时已晚。1990年，该公司首次遭遇季度亏损。面对陷入困境的产品线，奥尔森不得不实施并购和提前退休计划，直至最后的裁员。
1992年，奥尔森应董事会要求离职，时任DEC副总裁的罗伯特·帕尔默(Robert Palmer)接任，并试图扭转局面。但小型机和DEC的美好时光已经结束了。1998年，康柏电脑公司以96亿美元收购DEC。四年后，康柏被惠普收购，DEC终成回忆。
