Вы, видимо, что-то не так делаете. Попробуйте так:
Код:
procedure TForm1.RichEdit1SelectionChange(Sender: TObject);
begin
ToolButton1.Down := (fsBold in RichEdit1.SelAttributes.Style); // bold button
ToolButton2.Down := (fsItalic in RichEdit1.SelAttributes.Style); // italic button
end;