Fu istituita dalla Provincia nel 1933 con deliberazione n.17, per assicurare alla comunità un servizio di pubblica lettura, per debellare l’analfabetismo presupponendo risorse e beni materiali/immateriali che solo un’istituzione pubblica poteva offrire in un clima di cambiamento di mentalità proteso verso la solidarietà e crescita di comunità.
Le poche biblioteche presenti in città erano quelle del seminario arcivescovile e di famiglie gentilizie non accessibili a molti. Infatti della scarsa reperibilità di libri a Matera si lamentò Giovanni Pascoli in una lettera al Carducci nell’ottobre del 1883: “Non c’è un libro qua; da vent’anni che c’è un Liceo a Matera, nessuno n’è uscito con tanta cultura da sentire il bisogno di un qualche libro; i professori pare che abbiano tutti la scienza infusa; e perciò libri non se n’è comprati. …”
Furono nominati direttori nel 1933 prima Renato Leporace sostituito subito dopo dall’avv. Pasquale Dragone, uomo di grande sensibilità culturale, bibliofilo illuminato e colto con la sua opera instancabile di recupero di libri abbandonati in locali malsani del territorio e nei conventi soppressi. La nascente biblioteca non contava inizialmente che poco più di 2000 opere, sistemate a piano terra del palazzo della Provincia. Le difficoltà logistiche per un servizio di pubblica lettura la trasferirono in via Don Minzoni nei locali a piano terra del palazzo De Martino.
Nel giro di pochi anni la biblioteca contò più di 6000 volumi, tutti regolarmente schedati secondo le norme di catalogazione in vigore e si effettuò il prestito a domicilio.
Di anno in anno il patrimonio librario si arricchiva attraverso i normali acquisti ma anche da donazioni di Enti pubblici e cittadini. Considerevoli furono i libri pervenuti dalle case religiose di Pomarico, Ferrandina, Pisticci, Bernalda e Matera e dalle donazioni della famiglia Del Salvatore, del magistrato Andrea Lupo, dell’ing. Salvatore Volpe, del dr. Raffaele Sarra e con un prezzo simbolico l’intera biblioteca della famiglia Dragone di oltre 4000 volumi. Con la legge 13 luglio 1939 n.1082 fu annessa la biblioteca dell’Ente D’Errico, composta di 4.280 volumi, in stato di abbandono a Palazzo San Gervasio. Alla fine del 1952, la Biblioteca Provinciale possedeva, complessivamente n. 31.163 volumi ed opuscoli.
Nel 1960 per il rapido sviluppo delle raccolte si rese necessaria una sede più idoneae la Provincia acquistò per permuta il palazzo dell’ex ospedale civile in via San Rocco nei pressi di Piazza San Giovanni. Dopo un’interruzione di sei mesi per il trasferimento riaprì al pubblico nel 1962.
Per i raggiunti limiti d’età l’avv. Dragone veniva collocato a riposo nel 1960. Il 1 gennaio 1963 l’incarico fu affidato al dr. Raffaele Lamacchia.
Per la conoscenza della storia locale nel 1967 furono programmate diverse ristampe di libri non più in commercio. La prima fu la ‘Storia di Matera’ di Giuseppe Gattini, poi ‘Storia dei popoli della Lucania e della Basilicata’ di G. Racioppi, Storia di Metaponto di M. Lacava; ‘Uomini aspirazioni e contrasti nella Basilicata del 1799 di T. Pedio e ‘Arte di Pastori’ di E. Bracco e U. Annona. Sempre nel 1967, la biblioteca si arricchiva di una pregevole raccolta libraria di 2.881 pubblicazioni, donata dalla famiglia dell’illustre filosofo Lamanna, nato a Matera e Magnifico Rettore dell’Università di Firenze. Alla sua memoria la Provincia dedicò un busto bronzeo (1970).
Con l’introduzione della scuola dell’obbligo e la riforma dei programmi scolastici, la biblioteca divenne punto di riferimento per gli studenti delle scuole elementari e medie, per cui, nel 1967 si sentì la necessità di attrezzare per loro una apposita sezione a piano terra dello stabile.
Fu istituito inoltre il Centro Sistema bibliotecario provinciale che coordinava le biblioteche create in tutti i comuni della provincia di Matera, per volontà del Ministro della Pubblica Istruzione. Alla fine del 1975 in tutto il territorio provinciale funzionavano ben 29 biblioteche comunali. Dopo dieci anni di proficua attività il Sistema fu smantellato dalla legge regionale n.37 del 1 maggio 1980 che assegnava alla Regione Basilicata il compito di difesa del patrimonio librario e quindi di assistenza alle biblioteche comunali di tutto il territorio lucano.
Nel 1980 iniziò la pubblicazione del “Bollettino della Biblioteca Provinciale” e subito dopo quella dei “Quaderni” circa 28 numeri e 23 quaderni.
A seguito del terremoto del 1980, l’edificio di via San Rocco/Piazza San Giovanni subì notevoli danni alle strutture e la biblioteca fu trasferita provvisoriamente nel Convento dei Cappuccini al Rione Agna, già collegio Felice Ventura ed edificio scolastico.
Trova alla data odierna la sua collocazione nel Palazzo dell’Annunziata in Piazza Vittorio Veneto. Attualmente la Biblioteca conta circa 400.000 volumi, numerose testate di periodici, 30.000 libri rari e di pregio dal sec. XVII al XIX, 950 cinquecentine, 95 incunaboli, 100 manoscritti e 40 pergamene.