总统也给他去信说，“我读到你今天在参议院发表的意见很感兴趣。我认为美国需要听听更多的象您这样的共和党人的声音。”现在要攻击麦卡锡还需要勇气，但有人开始攻击了，陆军的情绪也开始好转。汉森·鲍尔温在《纽约时报》里写道，这个参议员对军方的冲击本来是很厉害的。“它的士气还是低落，无论纪律和效率都有很多不理想之处。”现在，它要进行反攻了，而它选择的武器就是沙因事件。麦卡锡和科恩由于陆军部要科恩的朋友服役从而要对陆军进行惩罚，这样说是会很有力量的。这大概也是事实，而且不管怎样，这是乔·麦卡锡盔甲上的致命弱点。3月11日，陆军（通过一名民主党人）把沙因事件的全部经过，包括科恩恐吓要“搞垮军队”，按月日编成资料，透露了出来。
  第二天，麦卡锡反过来攻击说，陆军想把沙因作为“人质”，想要威胁他“不把共产党揭发出来。”很显然，要听取两方的意见，就要在国会举行正式的调查听证会。白宫希望由参院三军委员会来处理——因为麦卡锡在那里影响较少。但是这个委员会的主席马萨诸塞州的莱弗里特·索尔顿斯托尔就要在11月份重新竞选参议员，所以对这件事不愿意插手。接着就是一阵勾心斗角的议会幕后活动。民主党人要把这听证会交给参院的政府事务委员会，那里的民主党参议员多，加上玛格丽特·蔡兹·史密斯，就会压倒麦卡锡的人。但是共和党人又不同意。而最后能够取得两党一致的解决办法，则是愚蠢不过的：那就是由麦卡锡和科恩自己那个小组委员会来对他们的行为进行调查。麦卡锡同意在调查时不当主席。而由他的一个最狂热崇拜者蒙特来主持。根据同样理由，科恩也不能当首席顾问。但是要找一个人代替他，却似乎是难于登天。其实，只要找个能干的、到现在还未对麦卡锡发表过意见的律师就行了。德克森就提出一个公堂律师，那是田纳西州诺斯维尔人雷·詹金斯。接着就是决定程序问题。德克森不同意公开作证，但林登·约翰逊还是使大家同意举行有电视实况转播的听证会，麦卡锡则取得进行反诘的权利；而在他当主席时，他是坚决不同意作证人的反诘权的。
  1954年4月22日早上10时半后不久，听证会就在参院的中心会议室举行，那里弧光灯齐照，华丽异常。看来似乎一切都秩序整然。詹金斯坐在话筒前，蒙特手里拿着主持会议用的锤子。麦卡锡则坐在他左边最远的地方、在那个形如棺材的桌子的末端。九个月以前，这小委员会里的民主党人，由于表示抗议麦卡锡所使用的手段，拒绝参加会议。现在他们带着他们的法律顾问，廿八岁的罗伯特·肯尼迪回来参加了，而他那时主要是以反对科恩闻名的。蒙特和一位资格老的民主党人阿肯色州的约翰·麦克莱伦【麦克莱伦对上兵沙因享有的各种特权的具体情况很感兴趣，掌握着很详细的材料。他有三个儿子，其中两个在第二次世界大战中牺牲了。】开了几声玩笑，然后就敲敲桌子请大家静下来。蒙特说，“现在，我们的律师詹金斯先生，开始提问第一个见证人。”詹金斯刚张嘴要说话——他的嘴确是大得惊人——但是还未来得及发言，就被人打断了。按照会场的纪录，情况是这样的：
  『麦卡锡：主席先生，我想提出一个程序问题，我可以提出个程序问题么？』
  按照H.M.罗伯特的《议事规程》，见证人是可以提出一个程序的问题来打断主席的，只要所提的问题是符合规程里的规定就行了。但麦卡锡心里想的可是另一回事。他的洪亮的声音大起来了。
  『麦卡锡：我曾听到部队的人的意见，上至有高越（原话如此）战斗纪录的将军们，下至最近入伍的普通士兵，他们对少数几个五角大楼内企图破坏我们调查听证的政客们自称为陆军部，都表示极大的遗憾。……陆军部并没有破坏我们的调查。只是陆军部里有三个非军人，应该把他们的名字提出来。』
  如果主席是公允的话，一听到他提的显然远远不是程序问题，而实际是发表讲话的时候，本来就该锤锤桌子，要他停下来的。但蒙特却让他说下去，还平静地同意麦卡锡那个荒谬的建议：陆军部长是否代表陆军，现在不下结论。以此开始，麦卡锡又再打断主席的话，又再来一篇讲话。“主席先生，主席先生，”他声带绷得紧紧地大声叫出来。蒙特垂下头来望着桌子，点头让他说下去。乔·麦卡锡又再发表他的这点意见。
  『麦卡锡：我认为让这几个企图、企图阻挠对共产党进行调查的人自称为陆军部，是使具有一百万卓越战士的陆军的每一名战士蒙耻丢脸的事。』
  麦克莱伦平静地指出，现在对陆军所提出的四十六项反控告，正是由“乔·麦卡锡主席”代表小组委员会签名的。但是蒙特还是作出有利于麦卡锡的裁定。这样听证会就形成这样一种格局了：乔还是象当主席那样控制着整个会场。他或者用“程序问题”，或者通过对见证人的反诘，就可以把他要说的话说完。蒙特是他的人，而现在看得出来，雷·詹金斯原来也是。本来选他当小组委员会的特别法律顾问，是以为他守正不阿的，而现在他却明显地鼓励麦卡锡胡作非为，让他起誓，还请他解释“共产党人的机构究竟是怎样的”。这点本来已经听了不知多少遍，现在乔又将钉在架子上的地图和一根教鞭拿出来了。听众感到很沮丧。讲完一课以后，他又说：“有很多人以为，我们可以和共产党人和平共处呢？”于是詹金斯就急切地问他说：“那你的意见呢，先生？”他那个答案几乎占了大半个下午。尽管这样，詹金斯还是觉得他对支持麦卡锡还未做够。于是他说：
  『詹金斯：参议员麦卡锡……今天的会要结束了。……现在可能有两千万或三千万美国人听你讲话……我想要你谈一谈。对美国每个男女老幼来说，他们应该怎样……做他们份内的事来消灭共产党呢？』
  反对麦卡锡的人感到失望极了。这个参议员似乎是打不败的。甚至连美国的陆军，也不是他的对手。他靠着自己个性的力量把每次开会搞成麦卡锡闹剧，外加一些经过处理的照片，伪造的联邦调查局报告，由所谓“美国忠诚地下组织”从五角大楼档案材料偷来的备忘录，还有他那麦卡锡式的野蛮的教诲，比如他说，他儿童时代有一个叫做印第安人查理的“导师”，曾指点他说，“如果有人向你走近而态度并不完全友善，你就要尽快朝他胯下猛跳过去，直至他无法动弹为止。”如果有什么不利于他的见证开始使会场热闹起来的话，他又会用他洪亮的声音疾呼，这样会场纪录就会写着“我提出一个程序问题”，或者是“主席先生，主席先生”。接着他就转换话题，说什么他“坐在这里，听这一大串一大串的谎言”真是使他“头痛和厌倦”。听证会上完全是一面倒，本来到这个中心会议室的听众是想看看两方决战的，现在他们能听到参议员斯图尔特·赛明顿的发言，尽管他只不过是有胆量敢于反驳麦卡锡，也很高兴。他说，“你谈到什么害怕。我从内心深处希望你知道一点：我对你，对你在任何时候，任何地点、任何场合说的任何东西，我都不怕。”
  但是周围的人似乎没有谁准备超过他这个限度。而所有这些人当中，看来最不可能摸麦卡锡老虎屁股的，似乎是陆军那位特别法律顾问了。他是约瑟夫·韦尔奇，六十三岁，身材高大，体格魁梧，动作轻捷，他一生都是忠实的共和党人，是非常有地位的波士顿市黑尔和多尔律师事务所的高级合伙人。他接受这个任务，不收任何律师费。记者们说这大概就是他们决定由他当特别法律顾问的原因。他一个小时接着一个小时，静悄悄地坐在那里，肘部靠着桌上，手掌托着面颊，手指不断地沿着前额上的皱纹摸来摸去。看上去他可能不过又是一个看热闹的人。他让麦卡锡对他的当事人史蒂文斯声势汹汹，但从不提出异议。他讲不了几句话，又讲得这样一本正经、彬彬有礼，几乎有点滑稽。他那绿色的领结，大惊小怪的神情，尖声尖气的声音，都使他活象狄更斯笔下所描述的律师，而不象一个成功的美国公堂律师。
  首都很少见过象他这样貌不惊人的人。但他知道他给人造成什么印象，并且也很满足。有时他发现，让别人低估自己是有好处的。他在波士顿市灯塔和波士顿广场这样高贵的社会中过惯生活，可从来没有领教过麦卡锡这一套虚张声势、威胁恫吓、瞪着眼睛说瞎话的行径，所以他歪着头，静听着。他把手深深地插在裤袋里，把脚尖翘起来，休息时可以看到他在各个人群的旁边逛来逛去，尽可能把他们的谈话听进去。当他到时候在听证会发言时，他和麦卡锡简直就有天壤之别。迈克尔·斯特雷特在他的《电视审讯》中说，“麦卡锡总不会忘记广大的听众，而韦尔奇则似乎总记不起他们。麦卡锡轻蔑地对群众说话，而韦尔奇则好象对着个别人彬然有礼地交谈，所以他内始至终都得到群众的支持。”
  这些在旁观察韦尔奇的人，逐步逐步终于发现他有钢铁一般的力量。在这里真正决个雌雄的是他和麦卡锡，他们真正重要的交锋是在听证会举行的第九天发生的。那天，韦尔奇向麦卡锡反诘一份联邦调查局秘密信件是怎样落在他手里的。