Да, установить другую видеокарту вместо GeForce GT540M на GeForce GTX 580M в ноутбуке Samsung RC530 можно. 1
Однако в большинстве случаев такой апгрейд не даст существенного прироста производительности, так как будет упираться в ограниченные способности процессора, памяти и чипсета системной платы. 2
Для замены видеокарты рекомендуется обратиться к специалисту.