Запятая не ставится: взял да и пошел.
Это предложение возможно в непринужденной разговорной речи. Если текст не должен передавать такую речь, предложение следует перестроить.
Да, сочетание не вполне корректно. Возможные варианты: принял взятку, получил взятку.
Запятая нужна: Оттолкнув меня, он взял трубку. Отделяется запятой деепричастный оборот.