Rygg har vært heltidspolitiker etter at han høsten 2007 ble valgt inn i bystyret for KrF i Bergen og var inntil oktober 2009 gruppeleder for partiet. Deretter ble Rygg byråd for skole og barnehage i Bergen, før han i november 2011 ble byråd for byutvikling, klima og miljø.