德国社会民主党在希特勒上台前对魏玛政府采取“容忍政策”，希特勒执政后又小心地把自己的行动局限在合法的范围内。为了向希特勒政权表示“清白”，它甚至于1933年3月退出社会主义工人国际执行局。但最后还是避免不了遭取缔的噩运。之后该党执委会大多数成员陆续流亡国外，1933年7月2日，以奥托·韦尔斯和汉斯·福格尔（Hans Vogel，1881—1945）为首的德国社会民主党流亡执行委员会即在布拉格成立。韦尔斯宣布该执委会是德国社会民主党唯一合法的执行委员会。
流亡执委会决定制订新的纲领，对面临的新形势和新任务及时作出新的回答。1933年底，一份反映该党左派观点的草案问世。草案首先就社会民主党领袖在魏玛共和国时期的政策做了严肃的自我批评，承认“社会民主党在夺得政治民主之后，没有从根本上变革经济结构和基本生产资料所有制，企图通过改善工人状况、实行工人政策、提高工人阶级政党和工会的影响，把资本主义制度逐步改造成为社会主义制度，这种尝试已被撞得粉碎”。草案认为，法西斯主义是中间阶层的暴乱，而法西斯主义之所以能够上台，首先是因为法西斯领袖成功地把大资本的代表、旧贵族集团拉到自己一边，“集合了所有的反动运动”。草案还初步承认实现工人阶级及其政党统一的必要性，认为要把所有坚持“自由和社会主义思想的其他政党的代表”联合起来。
流亡执委会的大多数成员不同意以上草案的内容，他们委托流亡巴黎的鲁道夫·希法亭重新起草了一个草案，于1934年1月10日寄到布拉格，该草案几乎毫无改动地被执委会接受。文件以《革命社会主义的斗争与目标——德国社会民主党的政策》为标题，于1934年1月28日同时在《新前进报》和《社会主义行动报》（Sozialistische Aktion）上发表，此即德国社会民主党1934年《布拉格宣言》（Prager Manifest）。宣言首先明确声明，德国法西斯的胜利从根本上改变了德国工人运动的性质和任务。宣言在“革命斗争的条件”部分，强调“在反对纳粹专政的斗争中，没有妥协、改良主义和合法主义的位置。”由于纳粹的恐怖统治使德国国内的非法活动处于分散状态，各地的地下小组要加强联合，努力发展成为群众性的组织；在“群众运动的目标”和“政权的行使”部分认为，反法西斯斗争胜利以后，“将建立一个由工人革命群众政党支撑和监督的强有力的革命政府”；在“裁军和战争危险”部分认为，法西斯专政“不仅对德国来说是耻辱和危险，而且意味着对所有其他民族的自由和文明的暴力威胁”，“坚决谴责对希特勒德国的任何军事上的妥协，警告全世界的工人政党不要低估德国民族主义的危险。……不给这个制度一个人、一文钱，这是德国社会民主党人的口号，也一定是社会主义工人国际的口号”。宣言特别强调：“社会民主党坚决反对来自外部的、利用战争所造成的德国专制制度的崩溃来肢解德国的任何企图。他们不承认导致德国分裂和意味着阻碍德国自由和经济发展的和平”；在“革命社会主义的统一”部分，宣言称“社会民主党力求同一切反法西斯阶层结成战线。”
流亡执委会充分利用自己的有利条件从事反纳粹抵抗活动。该党在希特勒政府正式动手前已经成功地将一部分财产转移到国外，捷克斯洛伐克苏台德地区和其他国家的社会民主党也提供了诸多帮助，因而布拉格执委会拥有经费，很快在国外建立起了自己的印刷厂。它认为自己的主要任务是进行宣传，反映德国工人阶级的呼声，向世界披露德国真相，为国内反法西斯抵抗组织筹措经费，提供宣传品。为了完成这些任务，它在出版报刊、印制宣传品的同时，在德国邻国境内组建了边境秘书处网。
在欧战爆发以前，流亡执委会先后在布拉格、巴黎和卡尔斯巴德（Karlsbad）等地出版了《新前进报》《社会主义行动报》《社会主义杂志》（Sozialistische Mitteilungen）、《德国社会民主党执委会德国报告》（Deutschland Berichte der Sopade） （1937年起更名为《德国社会民主党德国报告》（Deutschland Berichte der SPD） ）、《消息报》（Sopade Information）等五种报刊。其中影响最大的是《新前进报》，自1933年6月18日创刊起，每周出版一期，1936年的平均印数是4300份。此外，流亡执委会还根据形势需要，印制了大量的宣传品和传单。如在1934年8月19日公民投票前，印制了《告德国人民书》《致天主教徒》（Katholiken）、《希特勒——欧洲的头号公敌》（Hitlerffentlicher Feind Europas Nr.1）等传单。
边境秘书处网建立在德国的七个邻国中，由16个处所组成，其中捷克斯洛伐克6个，波兰、比利时、法国和瑞士各有2个，丹麦和卢森堡各1个。边境秘书处是流亡执委会与国内社会民主党抵抗组织和党员保持联系的重要途径。它们负有双重任务：将流亡执委会的文件、报刊、宣传材料等印刷品通过秘密渠道转送到国内社会民主党抵抗组织和党员手中，由它们在群众中散发；收集来自国内的各种情报，汇总到流亡执委会。流亡执委会根据汇总的情报评估自己的政治措施，采取相应的对策，并根据形势需要将这些情报在内部传达或公诸于世。在网络构建初期，国内的工作由国内的党员完成，但经过1935—1936年的大搜捕，国内工作人员遭到摧折性打击，边境秘书处的工作人员只得亲自动手。他们打扮成商人，带着经过伪装的宣传材料，越过边境亲自散发。据统计，1935年初，《社会主义行动报》每期约在德国散发500—1500份，约有6000—1.2万名读者。
在统一战线问题上，流亡执委会一直拒绝与德国共产党联合。虽然《布拉格宣言》号召工人阶级联合起来，但流亡执委会没有实际行动，客观上背弃了宣言精神。1935年共产国际召开“七大”和德共举行布鲁塞尔会议后，德国共产党再次呼吁组建工人阶级统一战线。1935年11月23日，两党代表在布拉格举行谈判。在谈判中，流亡执委会的代表虽然承认在德国各阶层人民中间，尤其在工人阶级中间，最迫切的政治任务是形成推翻希特勒专政的共同意志，但仍然拒绝对方提出的关于建立统一战线的建议。流亡执委会还反对其他机构和党员个人同共产党合作。1936年1月24日，它在致全体边境秘书处的通告信中，指示它们不准与共产党进行合作，设法让社会民主党人退出那些有共产党人在其中活动的组织。对于拥护统一战线的个人和组织，它拒绝给予任何财政支持。1939年1月德共举行伯尔尼会议后，德共中央委员会又提出统一战线的建议，再次遭到流亡执委会拒绝。
二、在辗转中继续斗争
1938年5—6月间，随着捷克危机不断升温，德国社会民主党设在布拉格的流亡执委会被迫迁往巴黎。1939年春，流亡执委会开始讨论在即将爆发的战争中所应采取的立场，终于在欧战爆发前夕形成共识。1939年8月13日，《新前进报》发表文章称：“除了希特勒自己，并没有别人强迫德国进行战争。不是别人威胁了德国人民，而是希特勒正在威胁其他民族。……因此，面临的战争就不是德国人民为了自卫而进行的斗争，而是被迫为了希特勒的疯狂掠夺、毁灭性的目标作战。”因此，“推翻希特勒就意味着德国人民的解放与和平，自卫的责任要求德国人民把自己的命运与希特勒的命运区别开来，在战争中，首先要把希特勒当作自己的敌人”。1939年9月1日德军进攻波兰的当天，流亡执委会发表关于战争的声明，明确表示：“希特勒与新的德意志军国主义是一个东西，这个军国主义的失败与最终消灭是实现和平与欧洲复兴的前提条件。……我们为了德意志民族、为了保障欧洲自由、和平与民主的伟大目标而进行这场斗争。我们呼吁德意志人民：为了你们的自由起来斗争！推翻希特勒！打倒这个制度、结束战争、保卫千百万人免遭死亡、拯救人民！”
广大的社会民主党员则积极行动起来，组成战斗小组，通过印制和散发传单从事反抗斗争。如柏林地区一个由60多人组成的战斗团体，在1939年9月9日深夜，就散发了几百份自己印制的题为《我向世界青年呼吁》的传单，揭露希特勒的帝国主义战争目标，号召青年们起来坚决地同法西斯政府展开斗争。有些社会民主党员设法收听国外电台的广播，并在工友中传播真相。第二次世界大战的战争局势发生根本转折后，各个阶层和集团的反抗斗争逐渐兴起，社会民主党员努力与它们联络，互相配合，包括参与了1944年七·二〇事件。
随着欧战的爆发，社会民主党流亡执委会的处境越来越困难。法国对德宣战后，法国政府为德国和奥地利的流亡者设立了拘留营，多数“政治上没有嫌疑”的人很快被释放，但共产党人、社会民主党人等积极的反法西斯活动家则作为有“嫌疑”的人被长期拘留。1940年6月法国败降后，德国流亡者处于极端危险之中。9月9日，流亡执委会决定从巴黎转移到里斯本。同年11月初，流亡执委会宣告解散。后来，旅居伦敦的社会民主党流亡者试图重建流亡执委会，但他们的领导资格未能得到公认，同国内的反抗力量也未建立起联系。
三、其他社会民主主义者的抵抗活动
在纳粹统治时期，德国还有一些原先从社会民主党中分裂出来的社会主义者组织。它们摆脱了社会民主党右翼领袖的干预，又及时转入地下，做好了进行非法斗争的准备，成为社会民主主义队伍中反法西斯运动的中流砥柱。
“新开端”是一个按照严格的民主集中制原则组织起来的密谋组织，主要由青年社会民主党人和知识分子组成。希特勒上台前，它就作好了从事非法斗争的准备。纳粹上台后，它不仅以柏林为基地同其他城市的类似组织保持联系，而且还同社会民主党内其他抵抗组织和政治流亡者建立了联系。1933年春，该组织约有100名积极可靠的成员。1934—1935年，该组织同布拉格流亡执委会的边境秘书处保持联系，各地成员为设在布拉格的国外局收集关于形势和德国民众情绪方面的情报。1935年夏天，组织的领导人围绕继续从事非法斗争是否有意义这个问题发生意见分歧，部分领导人退出，严重削弱了组织的力量。但是，余下的成员继续活动，不仅与国外局保持联系，而且还同柏林的德国人民阵线继续往来。“新开端”组织虽然认为自己是德国工人阶级的新领袖，但它的反苏反共和亲西方倾向十分明显。它谴责德国社会民主党和德国共产党，并认为苏联和希特勒德国的本质是一样的，要求解散共产国际。1938年夏，其柏林组织被盖世太保破获，但西里西亚、巴伐利亚的一些城市和斯图加特等地的组织继续存在，但它们很少进行反法西斯宣传活动和其他抵抗活动，只是注意形势的发展，准备迎接反法西斯战争的胜利。
社会主义工人党是1931年建立的，主要在柏林、汉诺威、东萨克森和德国南部等地区从事反法西斯宣传活动，帮助受迫害的反法西斯主义者逃跑，为其家属募捐。早在1933年和1934年，该党的部分组织就遭到盖世太保的破坏，不少人被捕。为了同其他反法西斯主义者实行合作，该党干部曾到布拉格，同社会民主党流亡执委会成员协商，并同德共中央委员会的代表取得联系。1936年，布雷斯劳、德累斯顿、汉诺威、法兰克福和纽伦堡等地的组织被盖世太保破获，但曼海姆的组织一直活动到1938年春。它不仅与南部地区的反法西斯主义者建立联系，还同共产党人合作，其主要活动是散发从国外得到的反法西斯宣传材料，为被捕者的家属募捐，并为设在巴黎的该党国外领导处搜集情报。
国际社会主义战斗同盟系1925年由国际青年同盟改名而来，约有300名成员，其中主要是职员、教师和知识分子，也有少量工人。纳粹上台后，该组织在国内组建了很多战斗小组。柏林小组约有20—25名成员，大多是年轻人，其他小组在不来梅、汉堡、科隆、马格德堡等地活动，个别小组还同共产党人合作。它们开始时只是散发国际运输工人联合会秘密运入德国的宣传材料，不久以后就开始自己印制传单。其传单的特征是在文章末尾印有一个悬挂在绞刑架上的纳粹党卐字徽。1935年夏天和秋天，很多战斗小组被破获，成员遭逮捕。但未被破获的小组继续编写和印制传单，谴责纳粹的战争政策，揭露战争危险，并与德国共产党交换反法西斯宣传材料。在西部地区，该组织还与进行反法西斯活动的铁路工人工会会员建立了联系。1936—1938年，该组织在奥格斯堡、柏林、不来梅、法兰克福、汉堡、汉诺威和科隆的小组全部遭当局破获，抵抗活动结束。
“红色突击队”是青年社会民主党人组建的抵抗组织，1933—1935年在柏林地区活动。其下属组织一般由3—10人组成，分布在柏林各个地方。它还拥有自己的报纸《红色突击队报》（Roter Stotrupp），1933年11月印数为4000—5000份。该组织虽然既反对共产党，也反对社会民主党，但曾于1933年秋天同流亡执委会联络，还与比勒菲尔德、德累斯顿、哈勒、汉堡、莱比锡等城市的社会民主党抵抗组织建立联系。1935年，该组织在盖世太保的大搜捕中被摧毁。
“社会主义阵线”组织拥有3000名骨干成员，主要在汉诺威地区活动。该组织早在希特勒执政以前就已经转入地下，做好了开展抵抗斗争的准备。该组织认为，“希特勒专政的垮台意味着资本主义的终结，为社会主义开辟道路。希特勒专政和资本主义制度不能通过部分工人暴动而只能通过无产阶级革命来推翻，它带给我们的不是能够在其基础上生长法西斯毒草的民主，而是社会主义共和国，工人阶级的统治”。该组织的主要活动是散发和邮寄自己的报纸和传单，开展宣传工作，吸收坚定的反法西斯主义者加入组织。1936年，大批成员由于叛徒告密而被捕，翌年，200多名被捕者被处以重刑。