다른 기질에 있는 마음에 해를 끼치지 않는 정책

이는 비플레이어 캐릭터부터 서브루틴까지 다양합니다. 우리는 비플레이어 캐릭터의 잠재적인 고통을 측정하기 위한 지표의 인식을 전달된 마음에 부과함으로써 고통을 줄이는 부분적인 솔루션을 제공합니다. 또한, 디지털 정신의 혐오적인 감각 경험과 관련하여 알려지지 않은 알려지지 않은 것이 있을 수 있는 만큼 잠재적인 고통의 방법이 더 많을 수 있습니다. 요약하자면, 우리는 인간 정신의 향상과 전달을 위한 계산 기반에서 NPC의 잠재적인 고통을 줄이거 나 피하는 문제에 대한 부분적인 해결책을 제시했습니다. 의료 향상 및 포스트 인류, ed. 이론적으로는 NPC 없이 인간 정신의 강화 및 전달을 위한 계산 기반이 가능하지만 바람직성 가정이 충족되는지 여부는 매우 의문스럽습니다. 이와 대조적으로 생리학적/기능적 지표는 더 공정하므로 인간과 인간이 아닌 동물의 객관적인 통증 평가를 위해 실제 생활에서 사용하기에 더 적합합니다(예: 서든sp구매 Cowen et al. 2015. 통증을 객관적으로 평가: 생리학적 마커의 사용). 고통 지표의 임계값을 통과해도 강화/전이된 인간의 정신이 NPC에 대한 고통을 유발하는 것을 중지하지 못하는 경우, 서든sp구매 고통을 자동으로 유발하는 활동을 중지하는 옵션이 있을 수 있습니다. 위반한 강화/전이된 인간의 정신에서 제어권을 가져옵니다. 무해한 정책 의도하지 않은 학대의 경우 강화/전이된 인간의 정신은 영향을 받은 NPC의 혐오적인 감각 경험에 대해 배우고 이해해야 합니다. 마음은 시간이 지남에 따라 기계 학습을 통해 말 그대로 경험을 얻게 될 것입니다.

K. Blashki 및 Y. Xiao, 131-39. 정보사회발전을 위한 국제협회. 그럼에도 불구하고 그들의 마음에는 행동 제어에 실패하는 신경 신호나 본질적으로 명시적인 보고에 접근할 수 없는 인지 모듈 내의 신호와 같은 고통스러운 서브루틴이 포함될 수 있습니다. 2017. 천문학적 고통의 위험에 대한 원인 또는 치료법으로서의 초지능. 옵션은 적대적인 NPC를 완전히 (별도의 정책에 의해) 제외하거나 정당방위로 그들에게 고통을 주는 것을 받아들이는 것입니다. 다음 사양에서 우리는 제안된 무해 정책과 관련된 더 큰 그림과 향후 작업뿐만 아니라 기회와 격차를 자세히 설명합니다. 2018. 공공 정책과 초지능 AI: 벡터 필드 접근 방식. Yampolskiy, RV 2018. 인공 지능 안전 및 보안. 2014. 인공지능의 윤리. 첫 번째 범주는 Bostrom이 AI를 가해자로 도입한 정신 범죄의 개념과 유사합니다(Bostrom 2014). 이 경우 강화/전이된 인간의 마음은 자신의 활동의 결과를 알고 있지만 가학적인 즐거움을 경험하거나 다른 불쾌한 동기를 갖습니다. 이러한 모든 고려 사항에서, 특정 정신에 적합한 환경(예를 들어 컴퓨터 기반의 개인 우주)을 만들기 위해서는 잠재적으로 지각력이 있는 수많은 다른 존재가 생성되어야 한다는 점을 간과했습니다. Yampolskiy(2019)는 인간의 마음이 행복하기 위해 ISU를 제안했는데, 아마도 극소수의 예외를 제외하고는 다른 마음과의 사회적 상호 작용 없이 인간의 마음이 지속적으로 행복하다는 것을 상상하기 어렵습니다. 까다롭지만 필수적인 다중 에이전트 가치 정렬 문제를 해결하기 위해서는 그러한 시나리오가 불가피하다는 주장도 있었습니다. 감각질을 탐구하는 것은 어려운 문제이기 때문에(Chalmers 1995), 우리는 정량적이고 객관적인 생리학적/계산적 지표를 강조합니다. 또한 이러한 시뮬레이션을 실행하는 시스템에는 운영 체제와 같이 문제가 있는 서브루틴이 포함되어 있을 수도 있습니다.