在同郭静居交往的时候，徐光启听说到中国来传教的耶稣会会长利玛窦精通西洋的自然科学，就到处打听他的下落，想当面向他请教。1600年，他得到了利玛窦正在南京传教的消息，即专程前往南京拜访。

利玛窦是意大利人，原名叫玛太奥·利奇。他从小勤奋好学，对数学、物理学、天文学、医学都很有造诣，而且擅长制作钟表、日晷（gui鬼，日晷是古代一种测定时间的仪器），善于绘制地图和雕刻。三十岁从神学院毕业，利玛窦被耶稣会派到中国来传教。他为了便于同中国人交往，刻苦学习中国的语言、文字和古代文化，换上中国的服装，按照中国的礼节和风俗习惯进行活动，还为自己取了利玛窦这样一个中国名字。

徐光启见到利玛窦，对他表示了仰慕之情，希望向他学习西方的自然科学。利玛窦看他是个读书人，也想向他学习中国古代的文化典籍，并热衷发展他为天主教徒，就同他交谈起来。他们从天文谈到地理，又谈到中国和西方的数学。临别的时候，利玛窦对徐光启学习西方自然科学的请求未置可否，却送给他两本宣传天主教的小册子。一本是《马可福音》，讲的是耶稣的故事，另一本是《天主实义》，是利玛窦用中文写的解释天主教义的书。徐光启心里明白，这是要他先加入天主教，然后才肯向他传播西方的科学知识。后来，他经过三年之久的慎重考虑，为了学习西方的自然科学，就全家加入了天主教。

加入天主教的第二年，四十二岁的徐光启考中进士，担任翰林院庶吉士的官职，在北京住了下来。而利玛窦在同徐光启见面的第二年，也来到了北京。他向明神宗贡献礼品，得到明神宗的批准，在宣武门外置了一处住宅，长期留居下来，进行传教活动。徐光启在公余之暇，常常去拜访利玛窦，你来我往，彼此慢慢熟悉了，开始建立起较深的友谊。1606年，徐光启再次请求利玛窦传授西方的科学知识，利玛窦爽快地答应了。他用公元前三世纪左右希腊数学家欧几里得的著作《原本》做教材，对徐光启讲授西方的数学理论。利玛窦每两天讲授一次，徐光启总是准时到达，不论是朔风怒吼，还是大雪纷飞，从不间断。

经过一段时间的学习，徐光启完全弄懂了欧几里得这部著作的内容，深深地为它的基本理论和逻辑推理所折服，认为这些正是我国古代数学的不足之处。他感到，我国的古代数学虽然也取得了极其辉煌的成就，但千百年来一直受到经验实证的限制，未能很好地运用逻辑推理的方法。如果能把欧几里得的这部著作介绍过来，对我国数学的发展将是很有好处的。于是，徐光启建议利玛窦同他合作，一起把它译成中文。开始，利玛窦对这个建议颇感犹豫，因为欧几里得的这部著作是用拉丁文写的，拉丁文和中文语法不同，词汇也很不一样，书里的许多数学专业名词在中文里都没有相应的现成词汇。要译得准确、流畅而又通俗易懂，是很不容易的。早先曾有一个姓蒋的举人同利玛窦合作试译过，就因为这个缘故而不得不半途而废。但是徐光启却很有信心，他认为只要肯下功夫，多动脑筋，仔细推敲，反复修改，总是可以译成的。在他的一再劝说下，利玛窦也就同意了。

从1606年的冬天开始，他们两人开始了紧张的翻译工作。每天晚上，他们坐在灯烛之下，先由利玛窦用中文逐字逐句地口头翻译，再由徐光启草录下来。译完一段，徐光启再字斟句酌地作一番推敲修改，然后由利玛窦对照原著进行核对。遇有译得不妥当的地方，利玛窦就把原著再仔细地讲述一遍，让徐光启重新修改。如此反复数次，直到认为满意了，再接着译下一段。徐光启对翻译非常认真，常常是到了深夜，利玛窦休息了，他还独自坐在灯下加工、修改译稿。有时为了确定一个译名，他不断地琢磨、推敲，不知不觉地就忙到天亮。译文里的“平行线”、“三角形”、“对角”、“直角”、“锐角”、“钝角”、“相似”等等中文的名词术语，都是经过他呕心沥血的反复推敲而确定下来的。

从大雪纷飞的冬季忙到来年桃李花开的春天，徐光启和利玛窦译出了这部著作的前六卷。徐光启想一鼓作气，接着往下译，争取在年内译完后九卷，但利玛窦却主张先将前六卷刻印出版，听听反映再说。付印之前，徐光启又独自一人将译稿加工、润色了三遍，尽可能把译文改得准确。然后他又同利玛窦一起，共同敲定书名的翻译问题。这部著作的拉丁文原名叫《欧几里得原本》，如果直译成中文，不大象是一部数学著作。如果按照它的内容，译成《形学原本》，又显得太陈旧了。利玛窦说，中文里的“形学”，英文叫作“Geo”，它的原意是希腊的土地测量的意思，能不能在中文的词汇里找个同它发音相似、意思也相近的词。徐光启查考了十几个词组，都不理想。后来他想起了“几何”一词，觉得它与“Geo”音近意切，建议把书名译成《几何原本》，利玛窦感到很满意。1607年，《几何原本》前六卷正式出版，马上引起巨大的反响，成了明末清初从事数学工作的人的一部必读书，对发展我国的近代数学起了很大的作用。

后来，徐光启虽然没有能够再和利玛窦一起译出《几何原本》的后九卷，但他又陆续写了许多其他的科学著作，特别是《农政全书》这部巨著，在我国和世界科学史上都具有重要的地位。后世的人们，为了纪念徐光启在科学上的卓越贡献，就把他的家乡法华汇改名为徐家汇。