毕业后，他到中科院计算所工作，这一工作就是几十年，他在中科院参与研制了，我国自行设计的第一台电子管计算机，首创了在汉字输入中应用联想功能，跨越了从“汉字”到“计算机”的巨大鸿沟。
1981年，加拿大国家研究院，邀请他担任访问研究员，他在加拿大的年薪高达4.3万加元，相当于当时国内工资的70倍，这是多少人羡慕的工作啊，就算在加拿大，这薪水也属于5%的高收入人群啊！然而他却因为一件事，毫不犹豫就选择了回国。
1981年，倪光南在加拿大渥太华街头。一天，他逛街时看到一家鞋店，橱窗里陈列着各种外国生产的皮鞋，而“中国制造”的鞋，被乱七八糟地丢在一个筐里，1.99元一双任拣。这件事深深触动了他，他心想：“中国制造”什么时候才能，不与“简陋”、“低级”连在一起？于是1983年，他毅然放弃加拿大的高薪回国，朋友们都说他傻，可他却依然坚持自己的选择，他说：
【“如果我不回来，我此后所做的一切，不会对“中国制造”有所帮助。”】
他打算将自己的知识和智慧，毫无保留地，全部献给祖国！
