Yahudi bir ailenin çocuğu olarak dünyaya gelen Goldberg, Adam Driver ve Matthew Rhys ile karşı karşıya gelen Öfkeyle Bakın'ın Broadway Off-Broadway canlandırmasında Alison Porter'ı oynadı. Yer aldığı diğer filmlerden bazıları; Apologia, Altı Ayrılık Derecesi, Büyük Tanrı Pan televizyon dizisinde, Hindsight ve Kara Şövalye Yükseliyor’da rol aldı. Şubat 2016'da Goldberg’in Bill Hader'in HBO pilotu Barry’den Sally Reed olarak rol aldı.