De liefdes- en spirituele gedichten van de dertiende eeuwse Perzische dichter Rumi hebben Peter Kouwenberg geïnspireerd gedichten te schrijven over de thema’s verlangen en vergankelijkheid. Het gedicht Bab’Aziz (de Prins die zijn ziel beschouwde) verwijst naar de gelijknamige film, waarin Rumi’s Gedicht van de Atomen wordt gezongen. Onvoltooid Verlangen bestaat bijna geheel uit nieuwe gedichten. De bundel omvat acht reeksen, waarvan de reeks Geen Mokkels meer in Mokum werd geschreven voor de poëziewedstrijd Liefde voor de Stad van de Universiteit van Amsterdam. In de bundel Liefde voor de Stad (UvA, 2018) werd het gedicht Wij Amsterdam opgenomen. Onvoltooid Verlangen maakt onderdeel uit van de uitgave van het verzameld werk van Peter Kouwenberg. Eerder verschenen de gedichtenbundels Het Cirkus dat nooit kwam, Binnen Handbereik en de novellen Glasgerinkel, Walvis in een Teil en Hart van de Luchtspiegeling.
Daarnaast publiceerde Peter Kouwenberg zowel een vertaling van het werk van Cravan als eigen werk in De Revisor, Maatstaf, Propria Cures, Mandala en de verzamelbundels Op Komst en Grenzenloos.