1941年，英国政府面对德国飞机狂轰滥炸的严酷现实，放弃了制造原子弹的念头。7月，英国派遣科学家代表团访美，敦促美国加紧原子武器的制造，团长奥利芬特请劳伦斯帮助说服美国政府，说明用铀235作为原子弹材料，以及利用加速器提炼铀235的现实可行性。劳伦斯立印想到罗伯特·奥本海默。奥本海默曾指导学生帮助他搞电磁分离铀的实验，效果极佳，使成本下降了50％—70％，给他留下了深刻印象。
这是奥本海默第一次参与核武器的发展计划。凭借敏锐的洞察力，他立即看出了快中子对释放原子能、制造原子弹的重要性。他出席了一系列最高级会议，参加讨论与编制发展这种武器的战略计划。10月21日，在斯克内克塔迪通用汽车公司的实验室里召开了一次重要会议，讨论生产原子弹的重要问题。在会上奥本海默提出了制造一枚原子弹所需铀235数量的计算结果。根据他提供的数据整理的会议报告，成了原子弹设计的一个蓝图。
1942年1月，国防委员会（NDRC）铀组主席康普顿正式聘请奥本海默参加原子弹“快速裂变”的研制工作，4个月后，他成了原子弹关键项目的负责人。历史把制造原子弹的科学技术问题委任给了奥本海默。1941年底爆发子珍珠港事件，美国正式对日本宣战。奥本海默认为赢得战争胜利已成为当时第一位的问题，他必须全力以赴投入原子弹的研制工作。
1942年夏天，奥本海默邀请了一批美国物理学界的精英在伯克利行政办公大楼开会，研究原子弹的基本形状、结构、尺寸和实现核裂变的手段，压拢与引爆的时间，制造原子弹的关键工艺与估算爆破威力等。组织工作有条不紊，几周内取得了重大进展。奥本海默初步展示了他科学组织家的才华，深受科学家们的赞赏。他们都把成功归于奥本海默非凡的才能、敏捷的思路和善于综合他人新思想的才干。
然而就在这次讨论会上，特勒提出了利用轻元素的核聚变而不用重元素的核裂变来制造氢弹的构想。费米进一步指出，原子核裂变后引起的高温可能会引发核聚变，使氘放出更大的能量，氘核聚变放出的能量约为铀235裂变时放出能量的5倍，而氘的制取要较铀235便宜得多、方便得多。这本是科学思想的正常讨论，但特勒多次在会上坚持要先制造氢弹。当时不论从技术上、战略思想上、准备条件上、或从任务进度上都不可能马上安排试制氢弹，只能把试制原子弹作为首要的战略目标。从此，在奥本海默和特勒之间埋下了不和的种子，影响了各自后半生的命运。
由于原子弹试制任务日益扩大，与军方的关系更加密切，1942年9月，军方派格罗夫斯准将来主持“曼哈顿特区”，即原子弹的试制工作。他和奥本海默的出身、经历、情趣、学识、科学素养、甚至外形都大相径庭；但他很快发现奥本海默学识渊博，具有正确评价各种技术方案和立即将关键的科学技术问题阐述清晰的卓越才能。在他和奥本海默就曼哈顿工程首次全面交换意见时，奥本海默根据原子弹工程的研制保密性强、而又急需展开学术思想自由交流的矛盾，提出建立综合大型实验室的主张，即把分散在高等学校的理论物理学家、实验物理学家、数学家、化学专家、军事专家、冶金和爆破专家集中于一处——该处须远离交通枢纽及居民密集区，对外完全隔绝，保密工作可万无一失，而内部则可自由交流学术思想。格罗夫斯将军采纳了他的意见，并任命他为综合实验室主任（即后来的洛斯阿拉莫斯实验室主任）。谁知这个任命遭到了联邦调查局的坚决反对，认为奥本海默左翼活动的历史根本不适宜于担任机密性如此强的科研领导工作。
格罗夫斯将军亲自审阅了奥本海默的档案材料，坚持认为奥本海默的非凡才能和工作热忱完全可以抵消其历史问题。他大权在握，顶住了联邦调查局的种种压力。联邦调查局不发给奥本海默保安许可证，格罗夫斯照用他不误，带他去选择综合大型实验室的地址，参加最机密的会议。1943年7月格罗夫斯向当局发出一份保荐奥本海默的报告：“希望立刻允许朱利叶·罗伯特·奥本海默参加工作，不受你们那些情报的限制，设计工作绝对不能缺少奥本海默。”他终于为奥本海默争取到了保安许可证。
奥本海默费了相当时日，历尽艰辛，选择了他少年时骑马旅游过的新墨西哥州山区洛斯阿拉莫斯，作为发展原子弹的综合实验室基地，这里既能满足保密要求，又能较快地为百余名科学家提供生活和工作场所。对此，格罗夫斯一下子就拍板决定了。1943年3月，奥本海默完成了各种筹建组织工作后，前往洛斯阿拉莫斯主持工作。
实验室正式投入运行后，科学家们立即就原子弹制造的两个“拦路虎”展开了热烈的讨论。这两个“拦路虎”是：（1）能使原子弹的两个弹芯在瞬间压到一块的机构和方法；（2）是用铀235还是用钚239才能更快地制成原子弹。奥本海默的学生泽尔贝尔对原子弹制造的机理作了全面系统的发言，供科学家们讨论。他还介绍了一种“枪式”结构，说明其能把两块亚临界铀压到一块，迅速引起核爆炸。
国家标准局来的一位青年物理学家内德迈尔则提出了“内爆法”的构想，即将可裂变物质制成空心球，周围包以炸药；当炸药点燃后，利用外部周围产生的压力使空心球向内挤压，形成一个超过临界质量的实心球，从而迅速引起核爆炸。这个思想新颖奇特，但工艺细节他一时还说不清，因而遭到科学家们的围攻和非议。然而，奥本海默却独具慧眼，积极支持内德迈尔进行实验和计算，形成“枪式结构”与“内爆法”。两种工艺方案齐头并进的局面。后来“内爆法”在制造原子弹中屡建奇功，大大推进了原子弹的研制进程。
当时，没有任何工厂能提供足够的铀235或钚239作为原子弹的实验材料，这样，就谈不上制造原子弹了。格罗夫斯便下令立即建立橡树岭气体分离、电磁分离铀235的两个巨型工厂，并在汉福特建立生产钚的巨大反应堆。为了与德国争时间、抢速度，这三个大工厂都是采取边实验、边建设、边开工的办法投产的。当时问题之多、矛盾之大、担子之重都是难以想象的。
为了适应战时科研的特殊需要，使科研工作有条不紊地高效运转，奥本海默把综合实验室分为四个部，由有名望、有真才实学的科学家分别领导：贝特负责理论部，肯尼迪负责化学冶金部，巴彻尔负责实验物理部，伯森斯海军上校负责军械部及工程。后来随着工程的进展和扩大，又增设了一些部，或做了些调整。奥本海默本人负责总的科学技术规划、协调和进度平衡。
由于把钚的提纯及其他研制工作交给了洛斯阿拉莫斯实验室，生产、建筑人员猛增，人口一下突破了3500人，增加了几十倍。原来只为100多名科学家提供的科研及后勤设置远远不敷需要，饮水不足，伙食较差，住房拥挤，交通堵塞，问题成堆，怨声载道。