По мере того, как политическая борьба в СССР обострялась, Малевич стал собираться в Европу всерьез и надолго. Поэтому он увез с собой, не разбирая, весь свой архив, который накопился у него по март 1927 года. Этот архив Малевича хранится в Берлине. Как считает А. С. Шацких, исследователь и издатель 5-томного собрания сочинений К. Малевича, так Малевич оставил в Берлине своеобразную «капсулу времени». Он «законсервировал» свою жизнь в рукописях и документах за полтора десятка лет. Известна его записка — «В случае смерти моей или безвыходного тюремного заключения …», спешно приложенная к берлинской «капсуле». По-видимому, Малевич имел в виду то, что может ждать его в СССР. Он действительно был арестован ОГПУ осенью 1930 года, но в декабре того же года он был освобождён[45].

В 1928 году Малевич публиковал статьи в харьковском журнале «Новая генерация». Готовясь к персональной выставке в Государственной Третьяковской галерее, художник вновь обратился к станковой живописи: так как многие его работы 1900—1910-х годов к тому времени были за границей, он создал цикл работ «периода импрессионизма» и датировал их 1903—1906 годами («Цветочница», «Девушка без службы»). Таким же образом он восстановил работы крестьянского цикла и датировал их 1908—1912 годами[источник не указан 2084 дня]. Предположительно, для этой же выставки Малевич создал третий вариант «Чёрного квадрата», по своим пропорциям соответствующий картине 1915 года. Сделано это было по просьбе дирекции галереи, так как работа 1915 года, хранившаяся к тому моменту в Третьяковской галерее, была в довольно плохом состоянии.

1 ноября 1929 года в ГТГ открылась «Выставка произведений живописи и графики К. С. Малевича». В этом же году работы Малевича экспонировались на выставке «Абстрактная и сюрреалистическая живопись и пластика» в Цюрихе. В 1929 году Малевич был назначен Луначарским «народным комиссаром ИЗО НАРКОМПРОСа»[46].

В 1930 году произведения художника экспонировались на выставках в Берлине и Вене, сокращённый вариант выставки ГТГ открылся в Киеве (февраль — май).

В Государственном институте истории искусств был закрыт отдел, которым руководил Малевич. Перед началом нового учебного года был издан приказ уволить всех беспартийных преподавателей, в результате чего Малевич, Бойчук, Сагайдачный, Крамаренко и другие потеряли работу[20]. Осенью 1930 года Малевича арестовало ОГПУ по подозрению в том, что он «германский шпион». Из тюрьмы он вышел в декабре 1930 года, поскольку следователь В. А. Кишкин не проявлял фанатизма[47].

В 1931 году Малевич работал над эскизами росписи Красного театра в Ленинграде.

В 1932 получил должность руководителя Экспериментальной лаборатории в Русском музее. Произведения художника были включены в экспозицию «Искусство эпохи империализма» в Русском музее.

В 1932 году художник участвовал в юбилейной выставке «Художники РСФСР за XV лет». По мнению некоторых специалистов, для этой выставки художником был написан четвёртый, последний из известных на сегодняшний день, вариант «Чёрного квадрата» (ныне хранится в Эрмитаже).

В 1932 году Малевич работал над неосуществлённым проектом — картиной «Соцгород». Начался последний период в творчестве художника: в это время он писал в основном портреты реалистического характера.

1933 год — началась тяжёлая болезнь (рак предстательной железы).

1934 — участвовал в выставке «Женщина в социалистическом строительстве».

В 1935 году поздние портреты Малевича экспонировались на Первой выставке ленинградских художников (последний показ работ Малевича на родине — вплоть до 1962 года).