Bij de Gemeente Groningen ontstond rond 1980 de wens om Groningen verder te ontwikkelen als 'compacte stad'. Eén van de voorwaarden voor deze compacte stad was het herbergen van verschillende functies in of nabij het stadscentrum. Het stadscentrum moest de plaats zijn waar mensen zowel woonden als werkten. Verschillende bijzondere functies, zoals het ziekenhuis, musea en de Rijksuniversiteit, bleven hierdoor in de binnenstad gehuisvest. Ook de universiteitsbibliotheek zou op dezelfde plaats blijven, ook nadat zij in de binnenstad uit haar jas groeide.

Een plan van Hertzberger, waarbij hij de bestaande Martinuskerk (van de beroemde architect Cuypers) wilde verbouwen tot bibliotheek en deze wilde verbinden met het Academiegebouw, bleek niet haalbaar. Men besloot tot sloop van de bestaande bibliotheek en van de kerk. Professor Tauber maakte het ontwerp voor de nieuwe bibliotheek.

Een van de voorwaarden van de opdrachtgever was dat het gebouw het bestaande Academiegebouw niet mocht overschreeuwen. Dit heeft geleid tot een vrij platte, gedrukte gevel, met een groot glazen gedeelte in het midden. Dit enorme venster zorgt voor lichtval in het centrale trappenhuis, maar fungeert ook als spiegelwand tegenover het Academiegebouw. Rondom het centrale trappenhuis zijn de verschillende bibliotheekzalen gegroepeerd.