Jeho kulturně-osvětová činnost ho provázela i tady, pořádal přednášky na různá témata, které se konaly téměř každý večer. Dokonce se mu podařilo přesvědčit řadu spoluvězňů, aby se na nich podíleli. Mimo to hodně kreslil, čímž dokumentoval těžký každodenní život v Malé pevnosti. Pozornost věnoval také portrétům se snahou zachovat podobu nejvíce trpících a ohrožených vězňů.
Josef Kylies byl v polovině března 1945 přemístěn na IV. dvůr Malé pevnosti, kde se nakazil šířícím se skvrnitým tyfem. Jeho rodině se však podařilo získat povolení k převozu do nemocnice ve Slaném, kam byl odeslán 4. května 1945. Nemoc se mu podařilo zdolat a po ozdravném pobytu ve Vráži se v září 1945 vrátil do běžného života. Znovu jej pohltila kulturně organizační práce spojená s výstavami, psaním a ilustrováním. Po čase se ovšem dostavily následky vězeňského utrpení, u Josefa Kyliese propukla tuberkulóza. Této chorobě nedokázal dlouho odolávat, zemřel 16. června 1946.