В.В. Жириновский писал о работе в СКЗМ: «У меня была масса литературы, масса газет, масса иностранцев. Я был всегда связан с заграницей. Я все хорошо знал, все хорошо понимал. Здесь не было проблем. Я языки учил. Я читал много на иностранном языке».
Через два года работы В.В. Жириновский написал руководству комитета докладную записку – «Предложения о новых формах международных связей Советского комитета защиты мира». На проводах одной из делегаций он ответил на резкое замечание председателя СКЗМ. Руководитель ведомства сказал референту-переводчику: «Если бы я был глупее вас, то вас бы поставили моим шефом», на что получил ответ: «Вас поставили председателем комитета не из-за того, что вы умнее, а из-за того, что вы просто старше». Советская номенклатура таких вещей не прощала. Перспектив на продвижение в СКЗМ у В. Жириновского больше не было. Возможно, их и не было вообще. В. Жириновский был беспартийным, а в стране, где «руководящей и направляющей» была Коммунистическая партия Советского Союза, беспартийных не повышали.
Жириновский пытался вступить в КПСС в институте и в армии, но его не принимали. Позднее он писал: «Я должен молиться, что они меня не приняли. Иначе сегодня мне был бы конец. Я бы сдох с ними. Это страшно было. Вот единственная благодарность коммунистам, что они были такие тупые – умных людей в партию не принимали. Я рад, что они все-таки меня не приняли. Я был слишком резкий для них. Слишком был жесткий, и меня они не взяли. Я благодарен им».
Куратором СКЗМ был секретарь ЦК КПСС Б. Пономарев. После увольнения В.В. Жириновского на его место пришла работать племянница секретаря ЦК.
С января по май 1975 года В. Жириновский работал переводчиком-воспитателем с иностранными студентами в деканате экономического факультета Высшей школы профсоюзного движения ВЦСПС – советских профессиональных союзов. Работа была рутинная, неинтересная, и В. Жириновский оттуда ушел.
«Человек года – 1993» позднее писал: «Я не мог работать там, где хотел. Я и раньше думал о высоких должностях, но это не было у меня какой-то навязчивой идеей или мечтой солдата стать генералом. Просто я видел людей, которые были у власти, видел их окружение, их неспособность руководить страной. Я понимал, что такие недалекие, порой просто глупые люди достигают подобных высот благодаря царившей в то время системе, которая позволяла им это».
В 1994 году А.И. Белкин писал в книге «Эпоха Жириновского»: «Мир не хотел его принимать, и он не стал спорить, теряя силы в бесплодной борьбе. В ответ он начал строить свой мир».
До постройки своего мира В. Жириновскому из двадцати лет одиночества оставалось еще пятнадцать лет.
В 1975–1983 годах В.В. Жириновский работал консультантом отдела Европы Иностранной юридической коллегии Министерства юстиции СССР. Основной задачей и целью Инюрколлегии были розыски граждан Советского Союза, ставших наследниками своих зарубежных родственников. Организация занималась и решением спорных вопросов по наследству, бракам и разводам между советскими и иностранными гражданами. Жириновский занимался проблемами советских репатриантов, угнанных в Германию во время Великой Отечественной войны, специализировался в области наследственного права Германии, занимался пенсионными проблемами людей, по своей или чужой воле уехавших из СССР. Валюту советским гражданам не давали, полученные деньги выдавались наследникам по усмотрению властей.
Став ударником коммунистического труда, В.В. Жириновский, уже получивший диплом юриста, планировал поступить в аспирантуру Академии общественных наук при ЦК КПСС. У него сохранился план диссертации «Международно-правовые аспекты оснований для защиты интересов советских граждан и Советского государства за рубежом». Беспартийный юрист-востоковед не поступил в «партийную» аспирантуру, а за восемь лет работы дослужился до старшего консультанта.